Waarom AI wetsartikelen en uitspraken verzint

Hoe een hallucinatie ontstaat

Een taalmodel wordt niet getraind op feiten, maar op waarschijnlijke voortzettingen van tekst. Als u schrijft „volgens het arrest van de Hoge Raad, zaaknummer”, vult het model iets in dat op een zaaknummer lijkt, omdat het duizenden van zulke patronen heeft gezien. Het heeft geen manier om te controleren of de uitspraak echt bestaat. Hetzelfde geldt voor artikelnummers, termijnen en de tekst van bepalingen.

Hoe minder data over een onderwerp het model heeft gezien, hoe zelfverzekerder het verzint. Tsjechische wetgeving en jurisprudentie zijn in de trainingsdata slechts beperkt vertegenwoordigd, waardoor het risico daar juist het grootst is. Een Engels of Duits antwoord kan preciezer zijn dan een Tsjechisch antwoord, wat voor Tsjechische juristen paradoxaal genoeg de slechtste combinatie is.

Wat er gebeurde toen men hierop vertrouwde

Het eerste bekende geval dateert uit 2023 uit New York, waar advocaten bij de rechtbank een processtuk indienden met zes niet-bestaande uitspraken die door ChatGPT waren gegenereerd, en daarvoor een boete kregen. Sindsdien komen er steeds meer vergelijkbare gevallen bij in de Verenigde Staten, Canada, het Verenigd Koninkrijk en Europa, en rechtbanken beginnen verklaringen over het gebruik van AI te eisen. In Tsjechië duiken de eerste gevallen op van processtukken met citaten die niet te achterhalen zijn.

Waarom „verzin niets” tegen het model niet volstaat

Een instructie in de prompt vermindert de neiging van het model om citaten te verzinnen, maar geeft het niets waarmee het die kan vervangen. Het model weigert dan te antwoorden, antwoordt vaag, of verzint alsnog iets. De enige betrouwbare oplossing is het model een bron te geven waaruit het kan lezen: dit principe heet grounding, oftewel verankering.

Verankering werkt zo dat het model vóór het antwoord een zoekopdracht uitvoert in een echte database, de tekst ontvangt en daaruit antwoordt. De citaten zijn dan niet gegenereerd, maar gekopieerd uit het resultaat, inclusief de link die u kunt openen.

Hoe de Europaius-connector dit oplost

• AI ontvangt resultaten met zaaknummer, rechtbank, datum en URL naar de volledige tekst. Er is geen reden om iets aan te vullen.
• De tool voor wetsartikelen geeft de letterlijke tekst terug, zodat AI ook bij nummers en termijnen niet uit het geheugen citeert.
• Verwijzingen tussen bepalingen zijn alleen geverifieerd: de connector geeft nooit een link terug die niet in de tekst van het voorschrift staat.
• Als er niets in het corpus staat, meldt de connector dat. AI heeft dan niets om te verzinnen en zou moeten toegeven dat de bron ontbreekt.

Een werkwijze die hallucinaties vrijwel uitsluit

Stel vragen met een expliciet verzoek om een bron. Laat AI eerst zoeken en pas daarna samenvatten. Open elke citaat die u in een document gebruikt via de link. Vraag bij belangrijke beweringen nogmaals, maar anders geformuleerd, of hetzelfde antwoord naar voren komt. En houd bij wat AI heeft opgezocht; de Europaius-connector registreert elke vraag onder uw account, zodat u het onderzoek altijd kunt terugvinden.

Veelgestelde vragen

Gerelateerde handleidingen

Informatief bedoeld, geen vervanging voor juridisch advies. Voor het koppelen van de connector is een (gratis) Europaius-account vereist. Meer over Europaius · Europaius NL