Warum KI Paragrafen und Urteile erfindet

Ein Sprachmodell trainiert nicht auf Fakten, sondern auf wahrscheinlichen Textfortsetzungen. Wenn Sie schreiben „laut Urteil des Obersten Gerichts, Az.“, ergänzt das Modell etwas, das wie ein Aktenzeichen aussieht, weil es solche Muster tausendfach gesehen hat. Es hat keine Möglichkeit zu prüfen, ob die Entscheidung tatsächlich existiert. Dasselbe gilt für Paragrafennummern, Fristen und den Wortlaut von Vorschriften.

Je weniger Daten zu einem Thema das Modell gesehen hat, desto selbstbewusster erfindet es. Tschechische Gesetzgebung und Rechtsprechung sind in den Trainingsdaten nur schwach vertreten, sodass hier das Risiko am größten ist. Eine englische oder deutsche Antwort kann dabei präziser ausfallen als eine tschechische – paradoxerweise die schlechteste Kombination für tschechische Juristen.

Der erste bekannte Fall stammt aus dem Jahr 2023 aus New York, wo Anwälte dem Gericht einen Schriftsatz mit sechs von ChatGPT generierten, nicht existierenden Entscheidungen vorlegten und dafür eine Geldbuße erhielten. Seitdem mehren sich ähnliche Fälle in den USA, Kanada, Großbritannien und Europa, und Gerichte verlangen zunehmend Erklärungen zur Nutzung von KI. Auch im tschechischen Umfeld tauchen erste Fälle von Schriftsätzen mit nicht auffindbaren Zitaten auf.

Eine Anweisung im Prompt verringert die Bereitschaft des Modells, Zitate zu erfinden, gibt ihm aber nichts, womit es sie ersetzen könnte. Das Modell verweigert dann entweder die Antwort, antwortet vage, oder erfindet trotzdem etwas. Die einzige verlässliche Lösung ist, ihm eine Quelle zu geben, aus der es lesen kann: Dieses Prinzip nennt man Grounding, also Verankerung.

Grounding funktioniert so, dass das Modell vor der Antwort eine Suche in einer echten Datenbank aufruft, den Text erhält und daraus antwortet. Die Zitate sind dann nicht generiert, sondern aus dem Ergebnis kopiert – samt Link, den Sie öffnen können.

• Die KI erhält Ergebnisse mit Aktenzeichen, Gericht, Datum und URL zum Volltext. Es besteht kein Grund, etwas zu ergänzen.
• Das Paragraf-Werkzeug liefert den wörtlichen Text, sodass die KI auch bei Zahlen und Fristen nicht aus dem Gedächtnis zitiert.
• Zitierbeziehungen zwischen Vorschriften sind nur geprüfte: Der Konnektor liefert nie einen Verweis zurück, der nicht im Vorschriftentext steht.
• Findet sich im Korpus nichts, meldet der Konnektor das. Die KI hat dann nichts zu erfinden und sollte offenlegen, dass die Quelle fehlt.

Fragen Sie ausdrücklich nach einer Quelle. Lassen Sie die KI zuerst suchen und dann zusammenfassen. Öffnen Sie jedes Zitat, das Sie in einem Dokument verwenden, über den Link. Fragen Sie bei zentralen Aussagen mit anders formulierter Anfrage erneut nach, ob dasselbe Ergebnis herauskommt. Und führen Sie eine Übersicht darüber, was die KI recherchiert hat; der Europaius-Konnektor protokolliert jede Anfrage in Ihrem Konto, sodass Sie zur Recherche zurückkehren können.