Miksi tekoäly keksii pykäliä ja tuomioita

Kielimalli ei opi faktoja, vaan tekstin todennäköisiä jatkoja. Kun kirjoitat "korkeimman oikeuden ratkaisun mukaan, diaarinumero", malli täydentää jotain, joka näyttää diaarinumerolta, koska se on nähnyt tuhansia vastaavia kaavoja. Sillä ei ole keinoa varmistaa, että ratkaisu on olemassa. Sama pätee pykälänumeroihin, määräaikoihin ja säännösten sanamuotoon.

Mitä vähemmän aineistoa mallilla on aiheesta ollut käytettävissä koulutuksessa, sitä itsevarmemmin se keksii asioita. Tšekin lainsäädäntö ja oikeuskäytäntö ovat koulutusaineistoissa heikosti edustettuina, joten juuri niiden kohdalla riski on suurin. Englanninkielinen tai saksankielinen vastaus voi olla tarkempi kuin tšekinkielinen, mikä on tšekkiläisille juristeille paradoksaalisesti pahin mahdollinen yhdistelmä.

Ensimmäinen tunnettu tapaus on vuodelta 2023 New Yorkista, jossa asianajajat toimittivat tuomioistuimelle asiakirjan, jossa oli kuusi ChatGPT:n generoimaa olematonta ratkaisua, ja saivat sakot. Siitä lähtien vastaavia tapauksia on ilmennyt lisää Yhdysvalloissa, Kanadassa, Isossa-Britanniassa ja Euroopassa, ja tuomioistuimet ovat alkaneet vaatia ilmoitusta tekoälyn käytöstä. Tšekkiläisessä ympäristössä on ilmaantunut ensimmäisiä tapauksia, joissa asiakirjoissa on lainauksia, joita ei voida jäljittää.

Ohje kehotteessa vähentää mallin taipumusta luoda lainauksia, mutta ei anna sille mitään, millä korvata niitä. Malli joko kieltäytyy vastaamasta, vastaa epämääräisesti tai keksii silti jotain. Ainoa luotettava ratkaisu on antaa sille lähde, josta se voi lukea: tätä periaatetta kutsutaan groundingiksi eli ankkuroinniksi.

Ankkurointi toimii niin, että malli kutsuu ennen vastaamista hakua todellisesta tietokannasta, saa tekstin ja vastaa sen perusteella. Lainaukset eivät tällöin ole generoituja, vaan kopioituja hakutuloksesta, mukaan lukien linkki, jonka voit avata.

• Tekoäly saa hakutulokset diaarinumeroineen, tuomioistuimineen, päivämäärineen ja URL-osoitteineen täyteen tekstiin. Sillä ei ole syytä keksiä mitään lisää.
• Pykälähakutyökalu palauttaa sanatarkan tekstin, joten tekoäly ei siteeraa muistista edes numeroiden ja määräaikojen kohdalla.
• Säännösten väliset viittaussuhteet ovat vain varmennettuja: liitäntä ei koskaan palauta viittausta, jota säädöksen tekstissä ei ole.
• Kun korpuksesta ei löydy mitään, liitäntä ilmoittaa siitä. Tekoälyllä ei silloin ole mistä keksiä, ja sen tulisi myöntää, että lähde puuttuu.

Kysy nimenomaisesti lähdettä vaatien. Anna tekoälyn ensin hakea tieto, sitten tiivistää se. Avaa jokainen asiakirjassa käyttämäsi lainaus linkin kautta. Kysy keskeisten väitteiden kohdalla uudelleen eri tavoin muotoillulla kysymyksellä, tuleeko sama vastaus. Ja pidä kirjaa siitä, mitä tekoäly on hakenut; Europaius-liitäntä tallentaa jokaisen kyselyn tilillesi, joten haku on mahdollista palauttaa mieleen myöhemmin.