De ce AI inventează articole și hotărâri

Cum apare halucinația

Un model lingvistic nu este antrenat pe fapte, ci pe continuări probabile de text. Când scrieți „conform hotărârii Curții Supreme cu nr. de dosar”, modelul completează ceva ce arată ca un număr de dosar, pentru că a văzut mii de astfel de tipare. Nu are nicio modalitate de a verifica dacă hotărârea există cu adevărat. Același lucru este valabil pentru numerele articolelor, termene și textul dispozițiilor legale.

Cu cât modelul a văzut mai puține date despre un subiect, cu atât inventează mai încrezător. Legislația și jurisprudența cehă sunt slab reprezentate în datele de antrenament, astfel încât riscul este cel mai mare tocmai în acest domeniu. Un răspuns în engleză sau germană poate fi mai precis decât unul în cehă, ceea ce reprezintă, paradoxal, cea mai proastă combinație pentru juriștii cehi.

Ce s-a întâmplat când s-au bazat pe asta

Primul caz cunoscut datează din 2023, din New York, unde avocați au depus la instanță un act de procedură cu șase hotărâri inexistente generate de ChatGPT și au primit o amendă. De atunci, apar tot mai multe cazuri similare în Statele Unite, Canada, Regatul Unit și Europa, iar instanțele încep să solicite declarații privind utilizarea AI. În mediul ceh apar deja primele cazuri de acte de procedură cu citări care nu pot fi identificate.

De ce nu este suficient să spui modelului „nu inventa”

Instrucțiunea din prompt reduce tendința modelului de a genera citări, dar nu îi oferă nimic cu care să le înlocuiască. Modelul fie refuză să răspundă, fie răspunde vag, fie tot inventează. Singura soluție fiabilă este să îi oferiți o sursă din care poate citi: acesta este principiul numit grounding, sau ancorare.

Ancorarea funcționează astfel: înainte de a răspunde, modelul apelează o căutare într-o bază de date reală, primește textul și răspunde pe baza acestuia. Citările nu mai sunt generate, ci copiate din rezultat, inclusiv linkul pe care îl puteți deschide.

Cum rezolvă acest lucru conectorul Europaius

• AI primește rezultate cu numărul de dosar, instanța, data și URL-ul către textul integral. Nu are niciun motiv să completeze ceva de la sine.
• Instrumentul pentru articole returnează textul exact, astfel încât AI nu citează din memorie nici la numere și termene.
• Legăturile de citare dintre dispoziții sunt doar cele verificate: conectorul nu returnează niciodată un link care nu se află în textul actului normativ.
• Când în corpus nu există nimic, conectorul spune acest lucru. AI nu mai are din ce inventa și ar trebui să recunoască faptul că sursa lipsește.

Un flux de lucru care exclude practic halucinațiile

Puneți întrebări cu cerința explicită de a indica sursa. Lăsați AI să caute mai întâi, apoi să rezume. Deschideți prin link fiecare citare pe care o folosiți în document. Pentru afirmațiile-cheie, întrebați din nou, formulând altfel întrebarea, pentru a vedea dacă rezultă același lucru. Și țineți evidența căutărilor efectuate de AI; conectorul Europaius înregistrează fiecare interogare la contul dvs., astfel încât să vă puteți întoarce oricând la cercetare.

Întrebări frecvente

Ghiduri conexe

Informații orientative, nu înlocuiesc consultanța juridică. Conectarea necesită un cont Europaius (gratuit). Mai multe despre Europaius · Europaius RO