Perché l'IA inventa articoli e sentenze

Come nasce l'allucinazione

Un modello linguistico non si addestra su fatti, ma su continuazioni probabili del testo. Quando scrivete "secondo la sentenza della Corte Suprema n.", il modello completa con qualcosa che assomiglia a un numero di ruolo, perché di questi schemi ne ha visti migliaia. Non ha modo di verificare che la decisione esista realmente. Lo stesso vale per i numeri degli articoli, i termini e il testo delle disposizioni.

Meno dati su un argomento il modello ha visto, più inventa con sicurezza. La legislazione e la giurisprudenza ceche sono scarsamente rappresentate nei dati di addestramento, quindi proprio in questo ambito il rischio è massimo. Una risposta in inglese o in tedesco può essere più precisa di una in ceco, il che è paradossalmente la combinazione peggiore per i giuristi cechi.

Cosa è successo a chi ci ha fatto affidamento

Il primo caso noto risale al 2023, a New York, dove alcuni avvocati hanno presentato in tribunale un atto con sei decisioni inesistenti generate da ChatGPT, ricevendo una sanzione. Da allora i casi simili si moltiplicano negli Stati Uniti, in Canada, nel Regno Unito e in Europa, e i tribunali iniziano a richiedere dichiarazioni sull'uso dell'IA. Anche in ambito ceco compaiono i primi casi di atti con citazioni non rintracciabili.

Perché non basta dire al modello "non inventare"

L'istruzione nella richiesta riduce la propensione del modello a creare citazioni, ma non gli fornisce nulla con cui sostituirle. Il modello può rifiutarsi di rispondere, rispondere in modo vago, oppure inventare comunque. L'unica soluzione affidabile è fornirgli una fonte da cui leggere: è il principio chiamato grounding, ovvero ancoraggio.

L'ancoraggio funziona così: il modello, prima di rispondere, invoca una ricerca in un database reale, riceve il testo e risponde sulla base di quello. Le citazioni non sono quindi generate, ma copiate dal risultato, incluso il link che potete aprire.

Come lo risolve il connettore Europaius

• L'IA riceve risultati con numero di ruolo, tribunale, data e URL al testo integrale. Non ha motivo di aggiungere nulla.
• Lo strumento per l'articolo restituisce il testo letterale, così l'IA non cita a memoria nemmeno per numeri e termini.
• I riferimenti citazionali tra le disposizioni sono solo verificati: il connettore non restituisce mai un link che non sia presente nel testo della norma.
• Quando nel corpus non c'è nulla, il connettore lo dichiara. L'IA a quel punto non ha nulla da inventare e dovrebbe ammettere che la fonte manca.

Un flusso di lavoro che esclude praticamente le allucinazioni

Formulate le domande chiedendo esplicitamente la fonte. Fate prima cercare l'IA, poi riassumere. Aprite tramite il link ogni citazione che utilizzate nel documento. Per le affermazioni chiave, riformulate la domanda in modo diverso e verificate se il risultato coincide. E tenete traccia di ciò che l'IA ha cercato; il connettore Europaius registra ogni richiesta sul vostro account, così potete sempre tornare sulla ricerca.

Domande frequenti

Guide correlate

Informazioni indicative, non sostituiscono una consulenza legale. Il collegamento del connettore richiede un account Europaius (gratuito). Maggiori informazioni su Europaius · Europaius IT