Kodėl AI sugalvoja straipsnius ir sprendimus
Neegzistuojantys bylų numeriai procesiniuose dokumentuose jau kainavo keliems advokatams baudą ir reputaciją. Tai nėra modelio piktavališkumas, o būdas, kaip kalbos modeliai veikia. Kas jį supranta, žino, kodėl vien „būk tikslus“ užklausoje neužtenka ir kodėl AI reikia duoti tikrą šaltinį.
168 090 Įstatymai3 472 Įstatymai su DI paaiškinimu
Kaip kyla haliucinacija
Kalbos modelis nesimoko iš faktų, o iš tikėtinų teksto tęsinių. Kai parašote „pagal Aukščiausiojo Teismo sprendimą Nr.“, modelis papildo tai, kas atrodo kaip bylos numeris, nes tokių pavyzdžių yra matęs tūkstančius. Jis neturi būdo patikrinti, ar sprendimas iš tikrųjų egzistuoja. Tas pats taikoma straipsnių numeriams, terminams ir nuostatų formuluotėms.
Kuo mažiau duomenų tam tikra tema modelis matė, tuo užtikrinčiau jis sugalvoja. Čekijos teisės aktai ir teismų praktika mokymo duomenyse yra atstovaujami menkai, todėl būtent jų atveju rizika didžiausia. Atsakymas anglų ar vokiečių kalba gali būti tikslesnis nei čekų kalba, o tai čekų teisininkams yra paradoksaliai pati blogiausia kombinacija.
Kas nutiko, kai tuo pasitikėjo
Pirmasis žinomas atvejis kilo 2023 metais Niujorke, kai advokatai teismui pateikė procesinį dokumentą su šešiais neegzistuojančiais sprendimais, sugeneruotais ChatGPT, ir sulaukė baudos. Nuo tada panašių atvejų daugėja Jungtinėse Amerikos Valstijose, Kanadoje, Jungtinėje Karalystėje ir Europoje, o teismai pradeda reikalauti pareiškimų apie AI naudojimą. Čekijos aplinkoje pasirodo pirmieji atvejai, kai procesiniuose dokumentuose pateikiamos citatos, kurių nepavyksta rasti.
Kodėl neužtenka pasakyti modeliui „nesugalvok“
Instrukcija užklausoje sumažina modelio norą sukurti citatas, bet neduoda jam nieko, kuo jas pakeisti. Modelis arba atsisako atsakyti, arba atsako neapibrėžtai, arba vis tiek sugalvoja. Vienintelis patikimas sprendimas – duoti jam šaltinį, iš kurio jis gali skaityti: tai principas, vadinamas grounding, arba pagrindimu.
Pagrindimas veikia taip, kad modelis prieš atsakydamas kreipiasi į paiešką tikroje duomenų bazėje, gauna tekstą ir atsako remdamasis juo. Tada citatos yra nebe sugeneruotos, o nukopijuotos iš rezultato, įskaitant nuorodą, kurią galite atsidaryti.
Kaip tai išsprendžia konektorius Europaius
- AI gauna rezultatus su bylos numeriu, teismu, data ir URL į visą tekstą. Jam nėra pagrindo nieko papildyti.
- Straipsnio įrankis grąžina pažodinį tekstą, todėl AI cituoja ne iš atminties net skaičių ir terminų atveju.
- Nuorodos tarp nuostatų yra tik patikrintos: konektorius niekada nepateikia nuorodos, kurios nėra teisės akto tekste.
- Kai korpuse nieko nėra, konektorius tai pasako. Tada AI neturi iš ko sugalvoti ir turėtų pripažinti, kad šaltinio trūksta.
Darbo eiga, kuri praktiškai pašalina haliucinacijas
Klauskite aiškiai reikalaudami šaltinio. Leiskite AI pirmiausia paieškoti, tada apibendrinti. Kiekvieną citatą, kurią naudojate dokumente, atsidarykite per nuorodą. Prie svarbiausių teiginių paklauskite dar kartą kitaip formuluodami klausimą, ar išeina tas pats. Ir sekite, ką AI surado; konektorius Europaius kiekvieną užklausą fiksuoja jūsų paskyroje, todėl prie paieškos galima sugrįžti.
https://mcp.europaius.com/mcp
Dažni klausimai
Ar konektorius reiškia, kad AI daugiau niekada nepadarys klaidos?
Ne. Citatos bus tikros, bet AI gali pasirinkti nereikšmingą sprendimą arba klaidingai apibendrinti jo išvadą. Nuorodos skirtos tam, kad galėtumėte tai patikrinti.
Ar sugalvoja tik ChatGPT, ar Claude taip pat?
Visi kalbos modeliai, be išimties. Skiriasi tik mastas. Sprendimas visiems tas pats: duoti jiems patikrintą šaltinį.
Kaip suprasti, ar AI konektorių iš tikrųjų panaudojo?
Claude ir ChatGPT atsakyme rodo, kokius įrankius kvietė ir su kokia užklausa. Jei kvietimo nėra, atsakymas yra iš atminties.