Pourquoi l'IA invente des articles et des arrêts

Comment naît l'hallucination

Un modèle de langage n'est pas entraîné sur des faits, mais sur des continuations probables de texte. Quand vous écrivez « selon l'arrêt de la Cour de cassation n° », le modèle complète par quelque chose qui ressemble à une référence de dossier, parce qu'il a vu des milliers de modèles de ce type. Il n'a aucun moyen de vérifier que la décision existe réellement. Il en va de même pour les numéros d'articles, les délais et le libellé des dispositions.

Moins le modèle a vu de données sur un sujet donné, plus il invente avec assurance. Le droit et la jurisprudence tchèques sont peu représentés dans les données d'entraînement, ce qui en fait le risque le plus élevé. Une réponse en anglais ou en allemand peut être plus précise qu'une réponse en tchèque, ce qui constitue, paradoxalement, la pire combinaison pour les juristes tchèques.

Ce qui s'est passé quand on s'y est fié

Le premier cas connu remonte à 2023, à New York, où des avocats ont soumis au tribunal un mémoire contenant six décisions inexistantes générées par ChatGPT, et ont été condamnés à une amende. Depuis, des cas similaires se multiplient aux États-Unis, au Canada, au Royaume-Uni ainsi qu'en Europe, et les tribunaux commencent à exiger une déclaration d'usage de l'IA. Dans le contexte tchèque, on voit apparaître les premiers cas de mémoires contenant des citations introuvables.

Pourquoi il ne suffit pas de dire au modèle « n'invente rien »

Une instruction dans la consigne réduit la propension du modèle à créer des citations, mais ne lui donne rien pour les remplacer. Le modèle refuse alors de répondre, répond de façon vague, ou invente malgré tout. La seule solution fiable consiste à lui fournir une source dans laquelle il peut lire : c'est le principe appelé « grounding », ou ancrage.

L'ancrage fonctionne ainsi : avant de répondre, le modèle effectue une recherche dans une véritable base de données, reçoit un texte, et répond à partir de celui-ci. Les citations ne sont alors plus générées, mais copiées du résultat, y compris le lien que vous pouvez ouvrir.

Comment le connecteur Europaius résout ce problème

• L'IA reçoit des résultats avec référence de dossier, juridiction, date et URL vers le texte intégral. Elle n'a aucune raison d'y ajouter quoi que ce soit.
• L'outil dédié à l'article renvoie le texte littéral, si bien que l'IA ne cite jamais de mémoire, même pour les numéros et les délais.
• Les liens de citation entre dispositions ne sont que des liens vérifiés : le connecteur ne renvoie jamais un lien qui ne figure pas dans le texte du règlement.
• Quand le corpus ne contient rien, le connecteur le signale. L'IA n'a alors rien à inventer et doit reconnaître que la source manque.

Une méthode de travail qui exclut pratiquement les hallucinations

Posez vos questions en exigeant explicitement une source. Laissez d'abord l'IA effectuer une recherche, puis résumer. Ouvrez systématiquement, via le lien, chaque citation que vous utilisez dans un document. Pour les affirmations essentielles, reformulez la question et vérifiez que le résultat reste identique. Et gardez une trace de ce que l'IA a recherché ; le connecteur Europaius enregistre chaque requête sur votre compte, ce qui permet de revenir sur la recherche.

Questions fréquentes

Guides similaires

Informations indicatives, ne remplaçant pas un conseil juridique. La connexion nécessite un compte Europaius (gratuit). En savoir plus sur Europaius · Europaius LU