Защо AI измисля членове и решения

Как възниква халюцинацията

Езиковият модел не се обучава върху факти, а върху вероятни продължения на текста. Когато напишете „съгласно решение на Върховния съд с номер на делото“, моделът допълва нещо, което изглежда като номер на дело, защото е виждал хиляди подобни образци. Той няма начин да провери дали решението съществува. Същото важи за номерата на членове, сроковете и текста на разпоредбите.

Колкото по-малко данни по темата е видял моделът, толкова по-самоуверено измисля. Чешкото законодателство и съдебна практика са слабо представени в тренировъчните данни, така че точно при тях рискът е най-голям. Отговорът на английски или немски може да е по-точен от този на чешки, което парадоксално е най-лошата комбинация за чешките юристи.

Какво се случи, когато разчитаха на това

Първият известен случай е от 2023 г. от Ню Йорк, където адвокати представиха пред съда жалба с шест несъществуващи решения, генерирани от ChatGPT, и получиха глоба. Оттогава подобни случаи се увеличават в Съединените щати, Канада, Великобритания и Европа, а съдилищата започват да изискват декларация за използване на AI. В чешката среда се появяват първите случаи на жалби с цитати, които не могат да бъдат намерени.

Защо не стига да кажете на модела „не си измисляй“

Инструкцията в заданието намалява склонността на модела да съчинява цитати, но не му дава с какво да ги замени. Моделът или отказва да отговори, или отговаря неясно, или пак си измисля. Единственото надеждно решение е да му се даде източник, от който може да чете: това е принципът, наречен grounding (закотвяне).

Закотвянето работи така, че моделът преди отговора извиква търсене в реална база данни, получава текст и отговаря въз основа на него. Тогава цитатите не са генерирани, а копирани от резултата, включително линка, който можете да отворите.

Как това решава конекторът Europaius

• AI получава резултати с номер на делото, съд, дата и URL към пълния текст. Няма причина да добавя каквото и да е.
• Инструментът за член връща дословния текст, така че AI не цитира по памет дори при номера и срокове.
• Препращанията между разпоредбите са само проверени: конекторът никога не връща линк, който не се съдържа в текста на нормативния акт.
• Когато в корпуса няма нищо, конекторът го казва. Тогава AI няма от какво да измисля и трябва да признае, че източникът липсва.

Работен процес, който практически изключва халюцинациите

Задавайте въпроси с изрично изискване за източник. Оставете AI първо да потърси, после да обобщи. Всеки цитат, който използвате в документ, отворете чрез линка. При ключови твърдения попитайте отново с различна формулировка, за да проверите дали ще получите същото. И водете преглед на това какво AI е потърсило; конекторът Europaius записва всяка заявка към вашия акаунт, така че можете да се върнете към проучването.

Често задавани въпроси

Свързани гидове

Ориентировъчна информация, която не заменя правна консултация. Свързването на конектора изисква акаунт в Europaius (безплатен). Повече за Europaius · Europaius BG