Hvorfor AI opfinder paragraffer og domme

En sprogmodel trænes ikke på fakta, men på sandsynlige fortsættelser af tekst. Når du skriver „ifølge Højesterets dom sagsnr.“, udfylder modellen noget, der ligner et sagsnummer, fordi den har set tusindvis af den slags mønstre. Den har ingen måde at kontrollere, om afgørelsen findes. Det samme gælder for paragrafnumre, frister og ordlyden af bestemmelser.

Jo mindre data om et emne modellen har set, desto mere selvsikkert opfinder den. Tjekkisk lovgivning og retspraksis er svagt repræsenteret i træningsdata, så risikoen er størst netop her. Et engelsk eller tysk svar kan være mere præcist end et tjekkisk, hvilket paradoksalt nok er den værst tænkelige kombination for tjekkiske jurister.

Den første kendte sag stammer fra 2023 fra New York, hvor advokater indleverede et processkrift til retten med seks ikke-eksisterende afgørelser genereret af ChatGPT og fik en bøde. Siden da er der kommet flere lignende sager til i USA, Canada, Storbritannien og Europa, og domstolene er begyndt at kræve erklæringer om brug af AI. I det tjekkiske miljø ses de første eksempler på processkrifter med citater, der ikke kan verificeres.

En instruks i prompten mindsker modellens tilbøjelighed til at opfinde citater, men giver den ikke noget at erstatte dem med. Modellen nægter enten at svare, svarer vagt, eller finder alligevel på noget. Den eneste pålidelige løsning er at give den en kilde, den kan læse fra: det er princippet, der kaldes grounding.

Grounding fungerer ved, at modellen, før den svarer, kalder en søgning i en reel database, får teksten og svarer ud fra den. Citaterne er så ikke genererede, men kopieret fra resultatet, inklusive et link, du selv kan åbne.

• AI'en får resultater med sagsnummer, domstol, dato og URL til den fulde tekst. Der er ingen grund til at finde på noget.
• Værktøjet til paragraffer returnerer den ordrette tekst, så AI'en ikke citerer fra hukommelsen, heller ikke for numre og frister.
• Krydshenvisninger mellem bestemmelser er kun verificerede: konnektoren returnerer aldrig et link, der ikke findes i lovtekstens ordlyd.
• Når der ikke findes noget i korpuset, siger konnektoren det. AI'en har så intet at opfinde ud fra og bør erkende, at kilden mangler.

Stil spørgsmål med et udtrykkeligt krav om kilde. Lad AI'en først søge og derefter opsummere. Åbn hvert citat, du bruger i et dokument, via linket. Ved centrale påstande skal du spørge igen med en anderledes formulering for at se, om resultatet er det samme. Og hold styr på, hvad AI'en har søgt efter; Europaius-konnektoren registrerer hver forespørgsel på din konto, så du altid kan vende tilbage til research.