Dlaczego AI zmyśla przepisy i wyroki

Model językowy nie trenuje na faktach, lecz na prawdopodobnych kontynuacjach tekstu. Gdy napiszesz „zgodnie z wyrokiem Sądu Najwyższego sygn. akt”, model dopisze coś, co wygląda jak sygnatura akt, bo widział tysiące takich wzorców. Nie ma sposobu, by sprawdzić, czy dane orzeczenie istnieje. To samo dotyczy numerów paragrafów, terminów i treści przepisów.

Im mniej danych na dany temat model widział, tym pewniej siebie zmyśla. Czeskie ustawodawstwo i orzecznictwo są w danych treningowych reprezentowane słabo, więc właśnie w ich przypadku ryzyko jest największe. Odpowiedź w języku angielskim czy niemieckim może być dokładniejsza niż w czeskim, co dla czeskich prawników jest paradoksalnie najgorszym możliwym zestawieniem.

Pierwszy znany przypadek pochodzi z 2023 roku z Nowego Jorku, gdzie prawnicy przedłożyli sądowi pismo z sześcioma nieistniejącymi orzeczeniami wygenerowanymi przez ChatGPT i otrzymali grzywnę. Od tego czasu przybywa podobnych spraw w Stanach Zjednoczonych, Kanadzie, Wielkiej Brytanii i w Europie, a sądy zaczynają wymagać oświadczeń o wykorzystaniu AI. W czeskim środowisku pojawiają się pierwsze przypadki pism z cytatami, których nie można odnaleźć.

Instrukcja w poleceniu zmniejsza skłonność modelu do tworzenia cytatów, ale nie daje mu niczego, czym mógłby je zastąpić. Model albo odmówi odpowiedzi, albo odpowie wymijająco, albo i tak coś sobie dośpiewa. Jedynym niezawodnym rozwiązaniem jest dać mu źródło, z którego może czytać: to zasada zwana groundingiem, czyli ukotwieniem.

Ukotwienie działa tak, że model przed odpowiedzią wywołuje wyszukiwanie w prawdziwej bazie danych, otrzymuje tekst i odpowiada na jego podstawie. Cytaty nie są wtedy generowane, lecz skopiowane z wyniku, wraz z odnośnikiem, który można otworzyć.

• AI otrzymuje wyniki z sygnaturą akt, nazwą sądu, datą i adresem URL do pełnej treści. Nie ma powodu niczego dopisywać.
• Narzędzie do wyszukiwania paragrafów zwraca dosłowne brzmienie, więc AI nie cytuje z pamięci nawet w przypadku numerów i terminów.
• Powiązania cytacyjne między przepisami są tylko zweryfikowane: konektor nigdy nie zwróci odnośnika, którego nie ma w tekście przepisu.
• Gdy w korpusie czegoś nie ma, konektor to zgłasza. AI nie ma wtedy z czego zmyślać i powinna przyznać, że źródło nie istnieje.

Zadawaj pytania z wyraźnym żądaniem podania źródła. Pozwól AI najpierw wyszukać, a potem podsumować. Każdy cytat użyty w dokumencie otwórz przez odnośnik. Przy kluczowych twierdzeniach zapytaj ponownie, inaczej sformułowanym pytaniem, czy wynik będzie taki sam. I prowadź ewidencję tego, co AI wyszukała; konektor Europaius zapisuje każde zapytanie do Twojego konta, więc zawsze można wrócić do rezultatów wyszukiwania.