Zašto AI izmišlja članke zakona i presude

Kako halucinacija nastaje

Jezični model ne uči na činjenicama, nego na vjerojatnim nastavcima teksta. Kad napišete „prema presudi Vrhovnog suda, broj predmeta“, model će dopuniti nešto što izgleda kao broj predmeta, jer je takvih obrazaca vidio tisuće. Nema način provjeriti postoji li odluka zaista. Isto vrijedi za brojeve članaka, rokove i tekst odredbi.

Što manje podataka o temi model vidi, to samouvjerenije izmišlja. Češko zakonodavstvo i sudska praksa slabo su zastupljeni u podacima za treniranje, tako da je kod njih rizik najveći. Odgovor na engleskom ili njemačkom može biti precizniji od češkog, što je za češke pravnike paradoksalno najlošija kombinacija.

Što se dogodilo kad su se na to pouzdali

Prvi poznati slučaj potječe iz 2023. godine iz New Yorka, gdje su odvjetnici sudu predali podnesak s šest nepostojećih odluka generiranih putem ChatGPT-a i dobili novčanu kaznu. Od tada se pojavljuju slični slučajevi u Sjedinjenim Državama, Kanadi, Velikoj Britaniji, pa i u Europi, a sudovi počinju zahtijevati izjavu o korištenju AI-a. I u češkom pravnom prostoru pojavljuju se prvi slučajevi podnesaka s citatima koji se ne mogu pronaći.

Zašto nije dovoljno reći modelu „ne izmišljaj“

Uputa u zadatku smanjuje spremnost modela da stvara citate, ali mu ne daje ništa čime bi ih zamijenio. Model će ili odbiti odgovoriti, ili odgovoriti nejasno, ili će ipak nešto izmisliti. Jedino pouzdano rješenje je dati mu izvor iz kojeg može čitati: to je princip koji se zove grounding, odnosno utemeljenje na izvoru.

Utemeljenje funkcionira tako da model prije odgovora pozove pretraživanje u stvarnoj bazi podataka, dobije tekst i odgovara na temelju njega. Citati tada nisu generirani, nego prekopirani iz rezultata, uključujući poveznicu koju možete otvoriti.

Kako to rješava konektor Europaius

• AI dobiva rezultate s brojem predmeta, sudom, datumom i URL-om na cjelovit tekst. Nema razloga ništa dopunjavati.
• Alat za članak zakona vraća doslovan tekst, tako da AI ne citira iz pamćenja niti kod brojeva i rokova.
• Referentne veze između odredbi samo su provjerene: konektor nikad ne vraća poveznicu koja nije sadržana u tekstu propisa.
• Kad u korpusu nema ničega, konektor to i kaže. AI tada nema iz čega izmišljati i trebao bi priznati da izvor nedostaje.

Radni postupak koji praktički isključuje halucinacije

Postavljajte pitanja s izričitim zahtjevom za izvor. Neka AI prvo pretraži, a zatim sažme. Svaki citat koji koristite u dokumentu otvorite putem poveznice. Kod ključnih tvrdnji ponovno pitajte, drugačije formuliranim upitom, dobivate li isti rezultat. I vodite pregled onoga što je AI pretražio; konektor Europaius svaki upit bilježi na vaš račun, tako da se rezultatima istraživanja možete uvijek vratiti.

Česta pitanja

Povezani vodiči

Okvirne informacije, ne zamjenjuju pravni savjet. Povezivanje konektora zahtijeva račun Europaius (besplatan). Više o Europaiusu · Europaius HR