Proč AI vymýšlí paragrafy a rozsudky

Jazykový model netrénuje na faktech, ale na pravděpodobných pokračováních textu. Když napíšete „podle rozsudku Nejvyššího soudu sp. zn.“, model doplní něco, co vypadá jako spisová značka, protože takových vzorů viděl tisíce. Nemá způsob, jak ověřit, že rozhodnutí existuje. Totéž platí pro čísla paragrafů, lhůty a znění ustanovení.

Čím méně dat k tématu model viděl, tím sebevědoměji si vymýšlí. Česká legislativa a judikatura jsou v tréninkových datech zastoupené slabě, takže právě u nich je riziko největší. Anglická nebo německá odpověď může být přesnější než česká, což je pro české právníky paradoxně nejhorší kombinace.

První známý případ pochází z roku 2023 z New Yorku, kde advokáti předložili soudu podání s šesti neexistujícími rozhodnutími vygenerovanými ChatGPT a dostali pokutu. Od té doby přibývají obdobné případy ve Spojených státech, Kanadě, Velké Británii i v Evropě a soudy začínají vyžadovat prohlášení o použití AI. V českém prostředí se objevují první případy podání s citacemi, které nelze dohledat.

Instrukce v zadání snižuje ochotu modelu tvořit citace, ale nedává mu nic, čím by je nahradil. Model buď odmítne odpovědět, nebo odpoví vágně, nebo si stejně domyslí. Jediné spolehlivé řešení je dát mu zdroj, ze kterého může číst: to je princip, kterému se říká grounding neboli ukotvení.

Ukotvení funguje tak, že model před odpovědí zavolá vyhledávání ve skutečné databázi, dostane text a odpovídá z něj. Citace pak nejsou generované, ale zkopírované z výsledku, včetně odkazu, který si otevřete.

• AI dostává výsledky se spisovou značkou, soudem, datem a URL na plné znění. Nemá důvod nic doplňovat.
• Nástroj pro paragraf vrací doslovné znění, takže AI necituje z paměti ani u čísel a lhůt.
• Citační vazby mezi ustanoveními jsou jen ověřené: konektor nikdy nevrátí odkaz, který v textu předpisu není.
• Když v korpusu nic není, konektor to řekne. AI pak nemá z čeho vymýšlet a měla by přiznat, že zdroj chybí.

Ptejte se s výslovným požadavkem na zdroj. Nechte AI nejdřív vyhledat, pak shrnout. Každou citaci, kterou použijete v dokumentu, otevřete přes odkaz. U klíčových tvrzení se zeptejte znovu jinak formulovaným dotazem, jestli vyjde totéž. A veďte si přehled, co AI vyhledala; konektor Europaius každý dotaz zaznamenává k vašemu účtu, takže se k rešerši dá vrátit.