Защо AI измисля членове и решения

Езиковият модел не се обучава върху факти, а върху вероятни продължения на текста. Когато напишете „съгласно решение на Върховния съд с номер на делото“, моделът допълва нещо, което изглежда като номер на дело, защото е виждал хиляди подобни образци. Той няма начин да провери дали решението съществува. Същото важи за номерата на членове, сроковете и текста на разпоредбите.

Колкото по-малко данни по темата е видял моделът, толкова по-самоуверено измисля. Чешкото законодателство и съдебна практика са слабо представени в тренировъчните данни, така че точно при тях рискът е най-голям. Отговорът на английски или немски може да е по-точен от този на чешки, което парадоксално е най-лошата комбинация за чешките юристи.

Първият известен случай е от 2023 г. от Ню Йорк, където адвокати представиха пред съда жалба с шест несъществуващи решения, генерирани от ChatGPT, и получиха глоба. Оттогава подобни случаи се увеличават в Съединените щати, Канада, Великобритания и Европа, а съдилищата започват да изискват декларация за използване на AI. В чешката среда се появяват първите случаи на жалби с цитати, които не могат да бъдат намерени.

Инструкцията в заданието намалява склонността на модела да съчинява цитати, но не му дава с какво да ги замени. Моделът или отказва да отговори, или отговаря неясно, или пак си измисля. Единственото надеждно решение е да му се даде източник, от който може да чете: това е принципът, наречен grounding (закотвяне).

Закотвянето работи така, че моделът преди отговора извиква търсене в реална база данни, получава текст и отговаря въз основа на него. Тогава цитатите не са генерирани, а копирани от резултата, включително линка, който можете да отворите.

• AI получава резултати с номер на делото, съд, дата и URL към пълния текст. Няма причина да добавя каквото и да е.
• Инструментът за член връща дословния текст, така че AI не цитира по памет дори при номера и срокове.
• Препращанията между разпоредбите са само проверени: конекторът никога не връща линк, който не се съдържа в текста на нормативния акт.
• Когато в корпуса няма нищо, конекторът го казва. Тогава AI няма от какво да измисля и трябва да признае, че източникът липсва.

Задавайте въпроси с изрично изискване за източник. Оставете AI първо да потърси, после да обобщи. Всеки цитат, който използвате в документ, отворете чрез линка. При ключови твърдения попитайте отново с различна формулировка, за да проверите дали ще получите същото. И водете преглед на това какво AI е потърсило; конекторът Europaius записва всяка заявка към вашия акаунт, така че можете да се върнете към проучването.