Kodėl AI sugalvoja straipsnius ir sprendimus

Kaip kyla haliucinacija

Kalbos modelis nesimoko iš faktų, o iš tikėtinų teksto tęsinių. Kai parašote „pagal Aukščiausiojo Teismo sprendimą Nr.“, modelis papildo tai, kas atrodo kaip bylos numeris, nes tokių pavyzdžių yra matęs tūkstančius. Jis neturi būdo patikrinti, ar sprendimas iš tikrųjų egzistuoja. Tas pats taikoma straipsnių numeriams, terminams ir nuostatų formuluotėms.

Kuo mažiau duomenų tam tikra tema modelis matė, tuo užtikrinčiau jis sugalvoja. Čekijos teisės aktai ir teismų praktika mokymo duomenyse yra atstovaujami menkai, todėl būtent jų atveju rizika didžiausia. Atsakymas anglų ar vokiečių kalba gali būti tikslesnis nei čekų kalba, o tai čekų teisininkams yra paradoksaliai pati blogiausia kombinacija.

Kas nutiko, kai tuo pasitikėjo

Pirmasis žinomas atvejis kilo 2023 metais Niujorke, kai advokatai teismui pateikė procesinį dokumentą su šešiais neegzistuojančiais sprendimais, sugeneruotais ChatGPT, ir sulaukė baudos. Nuo tada panašių atvejų daugėja Jungtinėse Amerikos Valstijose, Kanadoje, Jungtinėje Karalystėje ir Europoje, o teismai pradeda reikalauti pareiškimų apie AI naudojimą. Čekijos aplinkoje pasirodo pirmieji atvejai, kai procesiniuose dokumentuose pateikiamos citatos, kurių nepavyksta rasti.

Kodėl neužtenka pasakyti modeliui „nesugalvok“

Instrukcija užklausoje sumažina modelio norą sukurti citatas, bet neduoda jam nieko, kuo jas pakeisti. Modelis arba atsisako atsakyti, arba atsako neapibrėžtai, arba vis tiek sugalvoja. Vienintelis patikimas sprendimas – duoti jam šaltinį, iš kurio jis gali skaityti: tai principas, vadinamas grounding, arba pagrindimu.

Pagrindimas veikia taip, kad modelis prieš atsakydamas kreipiasi į paiešką tikroje duomenų bazėje, gauna tekstą ir atsako remdamasis juo. Tada citatos yra nebe sugeneruotos, o nukopijuotos iš rezultato, įskaitant nuorodą, kurią galite atsidaryti.

Kaip tai išsprendžia konektorius Europaius

• AI gauna rezultatus su bylos numeriu, teismu, data ir URL į visą tekstą. Jam nėra pagrindo nieko papildyti.
• Straipsnio įrankis grąžina pažodinį tekstą, todėl AI cituoja ne iš atminties net skaičių ir terminų atveju.
• Nuorodos tarp nuostatų yra tik patikrintos: konektorius niekada nepateikia nuorodos, kurios nėra teisės akto tekste.
• Kai korpuse nieko nėra, konektorius tai pasako. Tada AI neturi iš ko sugalvoti ir turėtų pripažinti, kad šaltinio trūksta.

Darbo eiga, kuri praktiškai pašalina haliucinacijas

Klauskite aiškiai reikalaudami šaltinio. Leiskite AI pirmiausia paieškoti, tada apibendrinti. Kiekvieną citatą, kurią naudojate dokumente, atsidarykite per nuorodą. Prie svarbiausių teiginių paklauskite dar kartą kitaip formuluodami klausimą, ar išeina tas pats. Ir sekite, ką AI surado; konektorius Europaius kiekvieną užklausą fiksuoja jūsų paskyroje, todėl prie paieškos galima sugrįžti.

Dažni klausimai

Susiję gidai

Orientacinė informacija, nepakeičia teisinės konsultacijos. Jungties prijungimui reikalinga Europaius paskyra (nemokama). Daugiau apie Europaius · Europaius LT