Prečo AI vymýšľa paragrafy a rozsudky

Ako halucinácia vzniká

Jazykový model netrénuje na faktoch, ale na pravdepodobných pokračovaniach textu. Keď napíšete „podľa rozsudku Najvyššieho súdu sp. zn.“, model doplní niečo, čo vyzerá ako spisová značka, pretože takých vzorov videl tisíce. Nemá spôsob, ako overiť, že rozhodnutie existuje. To isté platí pre čísla paragrafov, lehoty a znenie ustanovení.

Čím menej dát k téme model videl, tým sebavedomejšie si vymýšľa. Slovenské a české právne predpisy a judikatúra sú v trénovacích dátach zastúpené slabo, takže práve pri nich je riziko najväčšie. Anglická alebo nemecká odpoveď môže byť presnejšia než slovenská, čo je pre slovenských a českých právnikov paradoxne najhoršia kombinácia.

Čo sa stalo, keď sa na to spoľahli

Prvý známy prípad pochádza z roku 2023 z New Yorku, kde advokáti predložili súdu podanie so šiestimi neexistujúcimi rozhodnutiami vygenerovanými ChatGPT a dostali pokutu. Odvtedy pribúdajú obdobné prípady v Spojených štátoch, Kanade, Veľkej Británii aj v Európe a súdy začínajú vyžadovať vyhlásenie o použití AI. Aj v slovenskom a českom prostredí sa objavujú prvé prípady podaní s citáciami, ktoré nemožno dohľadať.

Prečo nestačí povedať modelu „nevymýšľaj si“

Inštrukcia v zadaní znižuje ochotu modelu tvoriť citácie, ale nedáva mu nič, čím by ich nahradil. Model buď odmietne odpovedať, alebo odpovie vágne, alebo si aj tak dotvorí. Jediné spoľahlivé riešenie je dať mu zdroj, z ktorého môže čítať: to je princíp, ktorému sa hovorí grounding, teda ukotvenie.

Ukotvenie funguje tak, že model pred odpoveďou zavolá vyhľadávanie v skutočnej databáze, dostane text a odpovedá z neho. Citácie potom nie sú generované, ale skopírované z výsledku, vrátane odkazu, ktorý si otvoríte.

Ako to rieši konektor Europaius

• AI dostáva výsledky so spisovou značkou, súdom, dátumom a URL na plné znenie. Nemá dôvod nič dopĺňať.
• Nástroj pre paragraf vracia doslovné znenie, takže AI necituje z pamäte ani pri číslach a lehotách.
• Citačné väzby medzi ustanoveniami sú len overené: konektor nikdy nevráti odkaz, ktorý v texte predpisu nie je.
• Keď v korpuse nič nie je, konektor to povie. AI potom nemá z čoho vymýšľať a mala by priznať, že zdroj chýba.

Pracovný postup, ktorý halucinácie prakticky vylučuje

Pýtajte sa s výslovnou požiadavkou na zdroj. Nechajte AI najprv vyhľadať, potom zhrnúť. Každú citáciu, ktorú použijete v dokumente, otvorte cez odkaz. Pri kľúčových tvrdeniach sa opýtajte znova inak formulovanou otázkou, či vyjde to isté. A veďte si prehľad o tom, čo AI vyhľadala; konektor Europaius každý dotaz zaznamenáva k vášmu účtu, takže sa k rešerši dá vrátiť.

Časté otázky

Súvisiace návody

Orientačné informácie, nenahrádzajú právne poradenstvo. Pripojenie konektora vyžaduje účet Europaius (zdarma). Viac o Europaius · Europaius SK