Por que a IA inventa artigos e acórdãos
Números de processo inexistentes em petições já custaram a vários advogados uma multa e a reputação. Não se trata de má-fé do modelo, mas da forma como os modelos de linguagem funcionam. Quem a compreende sabe por que um simples «sê preciso» nas instruções não basta e por que é necessário dar à IA uma fonte real.
4 036 Leis361 602 Jurisprudência
Como surge a alucinação
Um modelo de linguagem não é treinado com factos, mas com continuações prováveis de texto. Quando escreve «segundo o acórdão do Supremo Tribunal, processo n.º», o modelo completa algo que parece um número de processo, porque já viu milhares de padrões semelhantes. Não tem forma de verificar se a decisão existe. O mesmo se aplica a números de artigos, prazos e à redação de disposições legais.
Quanto menos dados sobre um tema o modelo tiver visto, mais confiante inventa. A legislação e a jurisprudência checas estão pouco representadas nos dados de treino, pelo que o risco é aí maior. Uma resposta em inglês ou alemão pode ser mais precisa do que uma em checo, o que, paradoxalmente, é a peor combinação para os juristas checos.
O que aconteceu quando confiaram nisso
O primeiro caso conhecido remonta a 2023, em Nova Iorque, onde advogados apresentaram ao tribunal uma petição com seis decisões inexistentes geradas pelo ChatGPT e foram multados. Desde então, têm surgido casos semelhantes nos Estados Unidos, no Canadá, no Reino Unido e na Europa, e os tribunais começam a exigir declarações sobre o uso de IA. No contexto checo, começam também a surgir os primeiros casos de petições com citações que não é possível localizar.
Por que não basta dizer ao modelo «não inventes»
Uma instrução nas indicações reduz a propensão do modelo para criar citações, mas não lhe dá nada para as substituir. O modelo ou se recusa a responder, ou responde de forma vaga, ou continua a inventar. A única solução fiável é dar-lhe uma fonte a partir da qual possa ler: é o princípio a que se chama grounding, ou ancoragem.
A ancoragem funciona assim: antes de responder, o modelo faz uma pesquisa numa base de dados real, recebe o texto e responde a partir dele. As citações deixam de ser geradas e passam a ser copiadas do resultado, incluindo a hiperligação que pode abrir.
Como o conector Europaius resolve isto
- A IA recebe resultados com número de processo, tribunal, data e URL para o texto integral. Não tem motivo para inventar nada.
- A ferramenta para consulta de artigos devolve a redação literal, pelo que a IA não cita de memória, mesmo em números e prazos.
- As remissões entre disposições legais são apenas as verificadas: o conector nunca devolve uma remissão que não conste do texto do diploma.
- Quando não há nada no corpus, o conector di-lo. A IA não tem então nada a partir do qual inventar e deve reconhecer que a fonte não existe.
Um fluxo de trabalho que praticamente elimina as alucinações
Formule as perguntas exigindo explicitamente uma fonte. Peça à IA que primeiro pesquise e só depois resuma. Abra sempre a hiperligação de cada citação que usar num documento. Nas afirmações-chave, repita a pergunta com outra formulação e verifique se obtém o mesmo resultado. E mantenha um registo do que a IA pesquisou; o conector Europaius regista cada pergunta associada à sua conta, permitindo voltar à pesquisa mais tarde.
https://mcp.europaius.com/mcp
Perguntas frequentes
O conector significa que a IA nunca mais vai cometer um erro?
Não. As citações serão reais, mas a IA pode escolher uma decisão irrelevante ou resumir mal a sua conclusão. As hiperligações servem para poder verificar isso.
Só o ChatGPT inventa, ou o Claude também?
Todos os modelos de linguagem, sem exceção. Só varia o grau. A solução é a mesma para todos: dar-lhes uma fonte verificada.
Como sei que a IA usou realmente o conector?
Tanto o Claude como o ChatGPT mostram na resposta quais as ferramentas que foram chamadas e com que pergunta. Se essa chamada não aparecer, a resposta veio da memória.