Por que a IA inventa artigos e acórdãos

Como surge a alucinação

Um modelo de linguagem não é treinado com factos, mas com continuações prováveis de texto. Quando escreve «segundo o acórdão do Supremo Tribunal, processo n.º», o modelo completa algo que parece um número de processo, porque já viu milhares de padrões semelhantes. Não tem forma de verificar se a decisão existe. O mesmo se aplica a números de artigos, prazos e à redação de disposições legais.

Quanto menos dados sobre um tema o modelo tiver visto, mais confiante inventa. A legislação e a jurisprudência checas estão pouco representadas nos dados de treino, pelo que o risco é aí maior. Uma resposta em inglês ou alemão pode ser mais precisa do que uma em checo, o que, paradoxalmente, é a peor combinação para os juristas checos.

O que aconteceu quando confiaram nisso

O primeiro caso conhecido remonta a 2023, em Nova Iorque, onde advogados apresentaram ao tribunal uma petição com seis decisões inexistentes geradas pelo ChatGPT e foram multados. Desde então, têm surgido casos semelhantes nos Estados Unidos, no Canadá, no Reino Unido e na Europa, e os tribunais começam a exigir declarações sobre o uso de IA. No contexto checo, começam também a surgir os primeiros casos de petições com citações que não é possível localizar.

Por que não basta dizer ao modelo «não inventes»

Uma instrução nas indicações reduz a propensão do modelo para criar citações, mas não lhe dá nada para as substituir. O modelo ou se recusa a responder, ou responde de forma vaga, ou continua a inventar. A única solução fiável é dar-lhe uma fonte a partir da qual possa ler: é o princípio a que se chama grounding, ou ancoragem.

A ancoragem funciona assim: antes de responder, o modelo faz uma pesquisa numa base de dados real, recebe o texto e responde a partir dele. As citações deixam de ser geradas e passam a ser copiadas do resultado, incluindo a hiperligação que pode abrir.

Como o conector Europaius resolve isto

• A IA recebe resultados com número de processo, tribunal, data e URL para o texto integral. Não tem motivo para inventar nada.
• A ferramenta para consulta de artigos devolve a redação literal, pelo que a IA não cita de memória, mesmo em números e prazos.
• As remissões entre disposições legais são apenas as verificadas: o conector nunca devolve uma remissão que não conste do texto do diploma.
• Quando não há nada no corpus, o conector di-lo. A IA não tem então nada a partir do qual inventar e deve reconhecer que a fonte não existe.

Um fluxo de trabalho que praticamente elimina as alucinações

Formule as perguntas exigindo explicitamente uma fonte. Peça à IA que primeiro pesquise e só depois resuma. Abra sempre a hiperligação de cada citação que usar num documento. Nas afirmações-chave, repita a pergunta com outra formulação e verifique se obtém o mesmo resultado. E mantenha um registo do que a IA pesquisou; o conector Europaius regista cada pergunta associada à sua conta, permitindo voltar à pesquisa mais tarde.

Perguntas frequentes

Guias relacionados

Informação meramente indicativa, que não substitui aconselhamento jurídico. A ligação do conector requer uma conta Europaius (gratuita). Mais sobre o Europaius · Europaius PT