Zakaj si AI izmišljuje člene in sodbe

Kako nastane halucinacija

Jezikovni model se ne uči dejstev, temveč verjetnih nadaljevanj besedila. Ko napišete »po sodbi Vrhovnega sodišča opr. št.«, model doda nekaj, kar je videti kot opravilna številka, ker je videl tisoče takšnih vzorcev. Nima načina, kako preveriti, da odločba dejansko obstaja. Enako velja za številke členov, roke in besedilo določb.

Manj podatkov o temi je model videl, bolj samozavestno si izmišlja. Češka zakonodaja in sodna praksa sta v učnih podatkih zastopani šibko, zato je tveganje pri njih največje. Angleški ali nemški odgovor je lahko natančnejši od češkega, kar je za slovenske in češke pravnike paradoksno najslabša kombinacija.

Kaj se je zgodilo, ko so se na to zanesli

Prvi znani primer izvira iz leta 2023 iz New Yorka, kjer so odvetniki sodišču predložili vlogo s šestimi neobstoječimi odločbami, ki jih je ustvaril ChatGPT, in prejeli kazen. Od takrat se podobni primeri kopičijo v Združenih državah, Kanadi, Veliki Britaniji in Evropi, sodišča pa začenjajo zahtevati izjave o uporabi AI. V češkem okolju se pojavljajo prvi primeri vlog s citati, ki jih ni mogoče najti.

Zakaj ne zadošča, da modelu rečete »ne izmišljuj si«

Navodilo v pozivu zmanjša pripravljenost modela za ustvarjanje citatov, vendar mu ne da ničesar, s čimer bi jih nadomestil. Model bo bodisi zavrnil odgovor, odgovoril nejasno, ali si bo kljub temu nekaj domislil. Edina zanesljiva rešitev je, da mu daste vir, iz katerega lahko bere: temu principu pravimo grounding oziroma umestitev v resnične podatke.

Umestitev deluje tako, da model pred odgovorom pokliče iskanje v resnični bazi podatkov, prejme besedilo in odgovarja na njegovi podlagi. Citati potem niso generirani, temveč prekopirani iz rezultata, vključno s povezavo, ki jo lahko odprete.

Kako to rešuje konektor Europaius

• AI prejme rezultate z opravilno številko, sodiščem, datumom in URL-jem na celotno besedilo. Nima razloga, da bi kaj dodajala.
• Orodje za posamezni člen vrne dobesedno besedilo, tako da AI ne citira iz spomina niti pri številkah in rokih.
• Citacijske povezave med določbami so samo preverjene: konektor nikoli ne vrne povezave, ki je v besedilu predpisa ni.
• Kadar v korpusu ni ničesar, konektor to pove. AI potem nima iz česa izmišljati in bi morala priznati, da vir manjka.

Delovni postopek, ki halucinacije praktično izključuje

Sprašujte z izrecno zahtevo po viru. Naj AI najprej poišče, nato povzame. Vsak citat, ki ga uporabite v dokumentu, odprite preko povezave. Pri ključnih trditvah ponovno vprašajte z drugače oblikovanim vprašanjem, ali pride do enakega rezultata. In vodite si pregled, kaj je AI poiskala; konektor Europaius vsako povpraševanje zabeleži k vašemu računu, tako da se je mogoče vrniti k poizvedbi.

Pogosta vprašanja

Sorodni vodniki

Okvirne informacije, ne nadomeščajo pravnega svetovanja. Povezava konektorja zahteva račun Europaius (brezplačen). Več o Europaius · Europaius SI