Kāpēc AI izdomā pantus un spriedumus

Kā rodas halucinācija

Valodu modelis netrenējas uz faktiem, bet uz teksta iespējamiem turpinājumiem. Kad jūs rakstiet „saskaņā ar Augstākās tiesas spriedumu, lietas Nr.“, modelis papildina kaut ko tādu, kas izskatās pēc lietas numura, jo tūkstošiem šādu paraugu ir redzējis. Viņam nav veida, kā pārbaudīt, vai lēmums tiešām eksistē. Tas pats attiecas uz pantu numuriem, termiņiem un noteikumu formulējumiem.

Jo mazāk datu par tēmu modelis ir redzējis, jo pārliecinātāk tas izdomā. Čehijas tiesību akti un judikatūra treniņa datos ir pārstāvēti vāji, tāpēc tieši šajā jomā risks ir vislielākais. Atbilde angļu vai vācu valodā var būt precīzāka nekā čehu valodā, kas Čehijas juristiem paradoksālā kārtā ir vissliktākā kombinācija.

Kas notika, kad uz to paļāvās

Pirmais zināmais gadījums ir no 2023. gada, Ņujorkā, kur advokāti tiesā iesniedza dokumentu ar sešiem neesošiem lēmumiem, kurus bija sagatavojis ChatGPT, un saņēma naudas sodu. Kopš tā laika līdzīgu gadījumu skaits pieaug Amerikas Savienotajās Valstīs, Kanādā, Lielbritānijā un Eiropā, un tiesas sāk pieprasīt deklarācijas par AI izmantošanu. Čehijas vidē parādās pirmie gadījumi ar citātiem, kurus nav iespējams atrast.

Kāpēc nepietiek pasacīt modelim „neizdomā“

Instrukcija uzdevumā samazina modeļa vēlmi izdomāt citātus, bet nedod nekā, ar ko tos aizvietot. Modelis vai nu atsakās atbildēt, vai atbild neskaidri, vai tomēr izdomā pats. Vienīgais uzticamais risinājums ir dot tam avotu, no kura tas var lasīt: to sauc par grounding, jeb noenkurošanu.

Noenkurošana darbojas tā, ka modelis pirms atbildes izsauc meklēšanu patiesā datubāzē, saņem tekstu un atbild, pamatojoties uz to. Citāti tad nav izdomāti, bet nokopēti no rezultāta, ieskaitot saiti, ko var atvērt.

Kā to risina Europaius konektors

• AI saņem rezultātus ar lietas numuru, tiesu, datumu un URL uz pilnu tekstu. Nav pamata kaut ko papildināt.
• Rīks pantam atgriež precīzu formulējumu, tāpēc AI necitē no atmiņas, arī skaitļu un termiņu gadījumā.
• Citāšu saites starp noteikumiem ir tikai pārbaudītas: konektors nekad neatgriezīs saiti, kas nav tekstā ietvertajā noteikumā.
• Kad korpusā nekā nav, konektors to norāda. AI tad nav no kā izdomāt un tai vajadzētu atzīt, ka avota nav.

Darba process, kas praktiski izslēdz halucinācijas

Jautājiet ar tiešu pieprasījumu pēc avota. Ļaujiet AI vispirms meklēt, tad apkopot. Katru citātu, kuru izmantojat dokumentā, atveriet caur saiti. Pie galvenajiem apgalvojumiem pajautājiet vēlreiz ar citādi formulētu jautājumu, lai pārbaudītu, vai iznāk tas pats. Un uzturiet pārskatu par to, ko AI ir meklējusi; Europaius konektors katru pieprasījumu ieraksta jūsu kontā, tāpēc pie meklēšanas var atgriezties.

Biežāk uzdotie jautājumi

Saistītie ceļveži

Orientējoša informācija, neaizstāj juridisko konsultāciju. Konektora pievienošanai nepieciešams Europaius konts (bez maksas). Vairāk par Europaius · Europaius LV