Dlaczego AI zmyśla przepisy i wyroki

Jak powstaje halucynacja

Model językowy nie trenuje na faktach, lecz na prawdopodobnych kontynuacjach tekstu. Gdy napiszesz „zgodnie z wyrokiem Sądu Najwyższego sygn. akt”, model dopisze coś, co wygląda jak sygnatura akt, bo widział tysiące takich wzorców. Nie ma sposobu, by sprawdzić, czy dane orzeczenie istnieje. To samo dotyczy numerów paragrafów, terminów i treści przepisów.

Im mniej danych na dany temat model widział, tym pewniej siebie zmyśla. Czeskie ustawodawstwo i orzecznictwo są w danych treningowych reprezentowane słabo, więc właśnie w ich przypadku ryzyko jest największe. Odpowiedź w języku angielskim czy niemieckim może być dokładniejsza niż w czeskim, co dla czeskich prawników jest paradoksalnie najgorszym możliwym zestawieniem.

Co się stało, gdy na to polegano

Pierwszy znany przypadek pochodzi z 2023 roku z Nowego Jorku, gdzie prawnicy przedłożyli sądowi pismo z sześcioma nieistniejącymi orzeczeniami wygenerowanymi przez ChatGPT i otrzymali grzywnę. Od tego czasu przybywa podobnych spraw w Stanach Zjednoczonych, Kanadzie, Wielkiej Brytanii i w Europie, a sądy zaczynają wymagać oświadczeń o wykorzystaniu AI. W czeskim środowisku pojawiają się pierwsze przypadki pism z cytatami, których nie można odnaleźć.

Dlaczego nie wystarczy powiedzieć modelowi „nie zmyślaj”

Instrukcja w poleceniu zmniejsza skłonność modelu do tworzenia cytatów, ale nie daje mu niczego, czym mógłby je zastąpić. Model albo odmówi odpowiedzi, albo odpowie wymijająco, albo i tak coś sobie dośpiewa. Jedynym niezawodnym rozwiązaniem jest dać mu źródło, z którego może czytać: to zasada zwana groundingiem, czyli ukotwieniem.

Ukotwienie działa tak, że model przed odpowiedzią wywołuje wyszukiwanie w prawdziwej bazie danych, otrzymuje tekst i odpowiada na jego podstawie. Cytaty nie są wtedy generowane, lecz skopiowane z wyniku, wraz z odnośnikiem, który można otworzyć.

Jak rozwiązuje to konektor Europaius

• AI otrzymuje wyniki z sygnaturą akt, nazwą sądu, datą i adresem URL do pełnej treści. Nie ma powodu niczego dopisywać.
• Narzędzie do wyszukiwania paragrafów zwraca dosłowne brzmienie, więc AI nie cytuje z pamięci nawet w przypadku numerów i terminów.
• Powiązania cytacyjne między przepisami są tylko zweryfikowane: konektor nigdy nie zwróci odnośnika, którego nie ma w tekście przepisu.
• Gdy w korpusie czegoś nie ma, konektor to zgłasza. AI nie ma wtedy z czego zmyślać i powinna przyznać, że źródło nie istnieje.

Sposób pracy, który praktycznie wyklucza halucynacje

Zadawaj pytania z wyraźnym żądaniem podania źródła. Pozwól AI najpierw wyszukać, a potem podsumować. Każdy cytat użyty w dokumencie otwórz przez odnośnik. Przy kluczowych twierdzeniach zapytaj ponownie, inaczej sformułowanym pytaniem, czy wynik będzie taki sam. I prowadź ewidencję tego, co AI wyszukała; konektor Europaius zapisuje każde zapytanie do Twojego konta, więc zawsze można wrócić do rezultatów wyszukiwania.

Najczęstsze pytania

Powiązane przewodniki

Informacje orientacyjne, niezastępujące porady prawnej. Połączenie konektora wymaga konta Europaius (bezpłatne). Więcej o Europaius · Europaius PL