Miks AI leiutab paragrahve ja kohtuotsuseid

Kuidas hallutsinatsioon tekib

Keelemudel ei õpi faktide, vaid teksti tõenäoliste jätkude põhjal. Kui kirjutate „vastavalt ülemkohtu otsusele nr“, täidab mudel lause millegagi, mis näeb välja nagu kohtuasja number, sest ta on näinud tuhandeid selliseid mustreid. Tal puudub võimalus kontrollida, kas otsus tegelikult eksisteerib. Sama kehtib paragrahvide numbrite, tähtaegade ja sätete sõnastuse kohta.

Mida vähem andmeid mudel teemal on näinud, seda enesekindlamalt ta valetab. Konkreetse riigi õigusakte ja kohtupraktikat on treeningandmetes üldjuhul vähem esindatud, mistõttu on risk just nende puhul suurim. Inglis- või saksakeelne vastus võib olla täpsem kui kohalikus keeles antud vastus, mis on kohalike juristide jaoks paradoksaalselt kõige halvem kombinatsioon.

Mis juhtus, kui sellele tugineti

Esimene tuntud juhtum pärineb 2023. aastast New Yorgist, kus advokaadid esitasid kohtule menetlusdokumendi kuue olematu, ChatGPT genereeritud otsusega ja saivad trahvi. Sellest ajast on samalaadseid juhtumeid lisandunud Ameerika Ühendriikides, Kanadas, Suurbritannias ja Euroopas, ning kohtud on hakanud nõudma deklaratsioone AI kasutamise kohta. Ka Eestis ja teistes riikides on ilmnenud esimesed juhtumid, kus menetlusdokumentides esineb viiteid, mida ei ole võimalik üles leida.

Miks ei piisa mudelile öelda „ära leiuta“

Juhis vähendab mudeli kalduvust viiteid välja mõelda, kuid ei annud talle midagi, millega neid asendada. Mudel keeldub vastamast, vastab ebamääraselt, või siis ikkagi leiutab. Ainus usaldusväärne lahendus on anda talle allikas, millest ta saab lugeda: seda põhimõtet nimetatakse groundinguks ehk ankurdamiseks.

Ankurdamine töötab nii, et mudel kutsub enne vastamist välja otsingu tegelikus andmebaasis, saab teksti ja vastab selle põhjal. Viited ei ole siis genereeritud, vaid kopeeritud otsingutulemusest, koos lingiga, mille saate avada.

Kuidas Europaius konnektor probleemi lahendab

• AI saab tulemused koos kohtuasja numbriga, kohtu nimega, kuupäevaga ja täisteksti URL-iga. Tal ei ole põhjust midagi juurde lisada.
• Paragrahvi tööriist tagastab sõnasõnalise teksti, nii et AI ei tsiteeri mälu järgi ka numbrite ja tähtaegade puhul.
• Sätete vahelised viitelülid on ainult kontrollitud: konnektor ei tagasta kunagi viidet, mida õigusakti tekstis tegelikult ei ole.
• Kui korpuses midagi ei leidu, ütleb konnektor seda ausalt. AI-l ei ole siis millest leiutada ja ta peaks tunnistama, et allikas puudub.

Töövoog, mis hallutsinatsioonid praktiliselt välistab

Küsige selgesõnalise nõudmisega allika kohta. Laske AI-l esmalt otsida ja seejärel kokku võtta. Igat dokumendis kasutatavat viidet avage lingi kaudu. Põhiväidete puhul küsige uuesti teistsuguse sõnastusega, kas tulemus jääb samaks. Ja peage arvestust, mida AI on otsinud; Europaius konnektor salvestab kõik päringud teie kontole, nii et otsingu juurde saab hiljem tagasi tulla.

Korduma kippuvad küsimused

Seotud juhendid

Suunav teave, ei asenda õigusnõustamist. Konnektori ühendamiseks on vaja Europaiuse kontot (tasuta). Rohkem Europaiuse kohta · Europaius EE