Varför AI hittar på paragrafer och domar

En språkmodell tränas inte på fakta, utan på sannolika textfortsättningar. När du skriver „enligt Högsta domstolens dom med målnummer“ fyller modellen i något som ser ut som ett målnummer, eftersom den sett tusentals liknande mönster. Den har inget sätt att verifiera att avgörandet existerar. Samma gäller paragrafnummer, tidsfrister och lagtext.

Ju mindre data om ämnet modellen har sett, desto mer självsäkert hittar den på. Tjeckisk lagstiftning och rättspraxis är svagt representerade i träningsdata, så risken är störst just där. Ett svar på engelska eller tyska kan vara mer korrekt än ett svar på tjeckiska, vilket paradoxalt nog är den värsta kombinationen för tjeckiska jurister.

Det första kända fallet är från 2023 i New York, där advokater lämnade in en inlaga till domstolen med sex obefintliga avgöranden genererade av ChatGPT och fick böter. Sedan dess har liknande fall ökat i USA, Kanada, Storbritannien och Europa, och domstolar börjar kräva förklaringar om användning av AI. I det tjeckiska rättssystemet börjar de första fallen med inlagor med citat som inte går att spåra dyka upp.

En instruktion i prompten minskar modellens benägenhet att skapa citat, men ger den inget att ersätta dem med. Modellen vägrar antingen att svara, svarar vagt, eller hittar på ändå. Den enda tillförlitliga lösningen är att ge den en källa att läsa från: denna princip kallas grounding, eller förankring.

Förankring fungerar genom att modellen innan den svarar gör en sökning i en verklig databas, får text tillbaka och svarar utifrån den. Citaten är då inte genererade utan kopierade från resultatet, inklusive en länk som du kan öppna.

• AI får resultat med målnummer, domstol, datum och URL till fulltexten. Den har ingen anledning att lägga till något själv.
• Verktyget för paragrafer returnerar den exakta lagtexten, så AI citerar inte ur minnet, inte heller för nummer och tidsfrister.
• Citeringssamband mellan bestämmelser är endast verifierade: konnektorn returnerar aldrig en länk som inte finns i författningstexten.
• När det inte finns något i korpuset säger konnektorn det. AI har då inget att hitta på utifrån och bör erkänna att källan saknas.

Ställ frågor med ett explicit krav på källa. Låt AI först söka, sedan sammanfatta. Öppna varje citat du använder i dokumentet via länken. Vid centrala påståenden, fråga igen med en annorlunda formulerad fråga och se om samma svar kommer fram. Håll koll på vad AI har sökt efter; Europaius-konnektorn registrerar varje fråga kopplad till ditt konto, så att du kan gå tillbaka till researchen.