Miért talál ki az AI paragrafusokat és ítéleteket

Hogyan keletkezik a hallucináció

A nyelvi modell nem tényeken tanul, hanem a szöveg valószínű folytatásain. Amikor beírja, hogy „a Legfelsőbb Bíróság X. sz. ítélete szerint”, a modell kiegészít valamit, ami ügyszámnak tűnik, mert ilyen mintákat ezrszer látott. Nincs módja ellenőrizni, hogy a döntés valóban létezik. Ugyanez vonatkozik a paragrafusok számaira, a határidőkre és a rendelkezések szövegére.

Minél kevesebb adatot látott a modell egy adott témában, annál nagyobb önbizalommal talál ki dolgokat. A cseh jogszabályok és ítélkezési gyakorlat gyengén szerepelnek a tanítási adatokban, így éppen ezeknél a legnagyobb a kockázat. Az angol vagy német nyelvű válasz pontosabb lehet, mint a magyar vagy cseh nyelvű, ami a magyar és cseh jogászok számára paradox módon a legrosszabb kombináció.

Mi történt, amikor megbíztak benne

Az első ismert eset 2023-ból származik New Yorkból, ahol ügyvédek egy beadványban hat, a ChatGPT által generált, nem létező ítéletet nyújtottak be a bíróságnak, és bírságot kaptak. Azóta hasonló esetek szaporodnak az Egyesült Államokban, Kanadában, az Egyesült Királyságban és Európában is, és a bíróságok kezdik megkövetelni az AI-használatra vonatkozó nyilatkozatot. A cseh gyakorlatban is megjelennek már olyan beadványok, amelyek nem visszakereshető hivatkozásokat tartalmaznak.

Miért nem elég azt mondani a modellnek, hogy „ne találj ki semmit”

A promptban megadott utasítás csökkenti a modell hajlamát a hivatkozások kitalálására, de nem ad neki semmit, amivel helyettesíthetné azokat. A modell ilyenkor vagy megtagadja a választ, vagy homályosan válaszol, vagy mégis kitalál valamit. Az egyetlen megbízható megoldás, hogy adjunk neki egy forrást, amelyből olvashat: ezt az elvet nevezik groundingnak, azaz megalapozásnak.

A megalapozás úgy működik, hogy a modell a válasz előtt lekérdezést indít egy valódi adatbázisban, megkapja a szöveget, és abból válaszol. A hivatkozások ekkor nem generáltak, hanem a találatból másolt szövegek, beleértve a linket is, amelyet meg lehet nyitni.

Hogyan oldja meg ezt az Europaius konnektor

• Az AI olyan találatokat kap, amelyek tartalmazzák az ügyszámot, a bíróságot, a dátumot és a teljes szöveg URL-jét. Nincs oka kiegészíteni bármit.
• A paragrafuskereső eszköz a szó szerinti szöveget adja vissza, így az AI a számoknál és a határidőknél sem hagyatkozik a memóriájára.
• A rendelkezések közötti hivatkozási kapcsolatok csak ellenőrzöttek: a konnektor soha nem ad vissza olyan hivatkozást, amely nem szerepel a jogszabály szövegében.
• Ha a korpuszban nincs semmi, a konnektor ezt jelzi. Az AI-nak ekkor nincs miből kitalálnia, és el kell ismernie, hogy hiányzik a forrás.

Munkafolyamat, amely a gyakorlatban kizárja a hallucinációt

Kérdezzen úgy, hogy kifejezetten forrást kér. Hagyja, hogy az AI először keressen, majd összegezzen. Minden hivatkozást, amelyet a dokumentumban felhasznál, nyisson meg a linken keresztül. A kulcsfontosságú állításoknál kérdezzen rá újra, más megfogalmazásban, hogy ugyanaz jön-e ki. És vezessen nyilvántartást arról, mit keresett az AI; az Europaius konnektor minden lekérdezést rögzít a fiókjához, így a kutatáshoz később is visszatérhet.

Gyakori kérdések

Kapcsolódó útmutatók

Tájékoztató jellegű információ, nem helyettesíti a jogi tanácsadást. A konnektor csatlakoztatásához Europaius fiók szükséges (ingyenes). Bővebben az Europaiusról · Europaius HU