Zašto AI izmišlja članke zakona i presude
Nepostojeći brojevi predmeta u podnescima već su nekoliko odvjetnika koštali novčane kazne i reputacije. Ne radi se o zloćudnosti modela, nego o načinu na koji jezični modeli funkcioniraju. Tko to razumije, znat će zašto samo „budi precizan“ u uputi nije dovoljno i zašto je AI-u potrebno dati stvaran izvor.
9 063 Zakoni242 Sudska praksa3 250 Zakoni s AI objašnjenjem
Kako halucinacija nastaje
Jezični model ne uči na činjenicama, nego na vjerojatnim nastavcima teksta. Kad napišete „prema presudi Vrhovnog suda, broj predmeta“, model će dopuniti nešto što izgleda kao broj predmeta, jer je takvih obrazaca vidio tisuće. Nema način provjeriti postoji li odluka zaista. Isto vrijedi za brojeve članaka, rokove i tekst odredbi.
Što manje podataka o temi model vidi, to samouvjerenije izmišlja. Češko zakonodavstvo i sudska praksa slabo su zastupljeni u podacima za treniranje, tako da je kod njih rizik najveći. Odgovor na engleskom ili njemačkom može biti precizniji od češkog, što je za češke pravnike paradoksalno najlošija kombinacija.
Što se dogodilo kad su se na to pouzdali
Prvi poznati slučaj potječe iz 2023. godine iz New Yorka, gdje su odvjetnici sudu predali podnesak s šest nepostojećih odluka generiranih putem ChatGPT-a i dobili novčanu kaznu. Od tada se pojavljuju slični slučajevi u Sjedinjenim Državama, Kanadi, Velikoj Britaniji, pa i u Europi, a sudovi počinju zahtijevati izjavu o korištenju AI-a. I u češkom pravnom prostoru pojavljuju se prvi slučajevi podnesaka s citatima koji se ne mogu pronaći.
Zašto nije dovoljno reći modelu „ne izmišljaj“
Uputa u zadatku smanjuje spremnost modela da stvara citate, ali mu ne daje ništa čime bi ih zamijenio. Model će ili odbiti odgovoriti, ili odgovoriti nejasno, ili će ipak nešto izmisliti. Jedino pouzdano rješenje je dati mu izvor iz kojeg može čitati: to je princip koji se zove grounding, odnosno utemeljenje na izvoru.
Utemeljenje funkcionira tako da model prije odgovora pozove pretraživanje u stvarnoj bazi podataka, dobije tekst i odgovara na temelju njega. Citati tada nisu generirani, nego prekopirani iz rezultata, uključujući poveznicu koju možete otvoriti.
Kako to rješava konektor Europaius
- AI dobiva rezultate s brojem predmeta, sudom, datumom i URL-om na cjelovit tekst. Nema razloga ništa dopunjavati.
- Alat za članak zakona vraća doslovan tekst, tako da AI ne citira iz pamćenja niti kod brojeva i rokova.
- Referentne veze između odredbi samo su provjerene: konektor nikad ne vraća poveznicu koja nije sadržana u tekstu propisa.
- Kad u korpusu nema ničega, konektor to i kaže. AI tada nema iz čega izmišljati i trebao bi priznati da izvor nedostaje.
Radni postupak koji praktički isključuje halucinacije
Postavljajte pitanja s izričitim zahtjevom za izvor. Neka AI prvo pretraži, a zatim sažme. Svaki citat koji koristite u dokumentu otvorite putem poveznice. Kod ključnih tvrdnji ponovno pitajte, drugačije formuliranim upitom, dobivate li isti rezultat. I vodite pregled onoga što je AI pretražio; konektor Europaius svaki upit bilježi na vaš račun, tako da se rezultatima istraživanja možete uvijek vratiti.
https://mcp.europaius.com/mcp
Česta pitanja
Znači li konektor da AI više nikad neće pogriješiti?
Ne. Citati će biti stvarni, ali AI može odabrati nerelevantnu odluku ili pogrešno sažeti njezin zaključak. Poveznice služe tome da to provjerite.
Izmišlja li i Claude ili samo ChatGPT?
Svi jezični modeli, bez iznimke. Razlikuje se samo stupanj. Rješenje je za sve isto: dati im provjeren izvor.
Kako znam da je AI konektor stvarno koristio?
Claude i ChatGPT u odgovoru prikazuju koje su alate pozvali i s kojim upitom. Ako poziv nedostaje, odgovor je iz pamćenja.