Por qué la IA inventa artículos y sentencias

Cómo se produce la alucinación

Un modelo de lenguaje no se entrena con hechos, sino con continuaciones probables de texto. Cuando escribe «según la sentencia del Tribunal Supremo, número de expediente», el modelo completa algo que parece un número de expediente, porque ha visto miles de patrones similares. No tiene forma de comprobar que la resolución exista realmente. Lo mismo ocurre con los números de artículos, los plazos y el texto de las disposiciones.

Cuanto menos datos sobre un tema haya visto el modelo, con más seguridad se inventa cosas. La legislación y la jurisprudencia checas están escasamente representadas en los datos de entrenamiento, por lo que en este ámbito el riesgo es mayor. Una respuesta en inglés o en alemán puede ser más precisa que una en checo, lo cual resulta, paradójicamente, la peor combinación posible para los juristas checos.

Qué ocurrió cuando confiaron en ello

El primer caso conocido data de 2023, en Nueva York, donde unos abogados presentaron ante el tribunal un escrito con seis resoluciones inexistentes generadas por ChatGPT y recibieron una multa. Desde entonces han aumentado los casos similares en Estados Unidos, Canadá, Reino Unido y Europa, y los tribunales han empezado a exigir declaraciones sobre el uso de IA. En el ámbito checo empiezan a aparecer los primeros escritos con citas que no pueden localizarse, procedentes de fuentes checas.

Por qué no basta con decirle al modelo «no te lo inventes»

Una instrucción en la petición reduce la disposición del modelo a crear citas, pero no le proporciona nada con qué sustituirlas. El modelo, o bien se niega a responder, o responde de forma vaga, o simplemente se lo inventa igualmente. La única solución fiable es proporcionarle una fuente de la que pueda leer: este es el principio conocido como grounding o anclaje.

El anclaje funciona de modo que el modelo, antes de responder, realiza una búsqueda en una base de datos real, obtiene el texto y responde a partir de él. Las citas entonces no se generan, sino que se copian del resultado, incluido el enlace que se puede abrir.

Cómo lo resuelve el conector Europaius

• La IA recibe resultados con número de expediente, tribunal, fecha y URL al texto completo. No tiene motivo para inventar nada.
• La herramienta para artículos devuelve el texto literal, de modo que la IA no cita de memoria ni siquiera en números y plazos.
• Los vínculos de citas entre disposiciones son solo los verificados: el conector nunca devuelve un enlace que no esté presente en el texto de la norma.
• Cuando no hay nada en el corpus, el conector lo indica. La IA entonces no tiene de dónde inventar y debería reconocer que falta la fuente.

Un flujo de trabajo que prácticamente elimina las alucinaciones

Formule las preguntas exigiendo explícitamente una fuente. Deje que la IA busque primero y resuma después. Abra cada cita que utilice en un documento a través del enlace correspondiente. Para las afirmaciones clave, vuelva a preguntar con una formulación distinta para comprobar si obtiene el mismo resultado. Y mantenga un registro de lo que la IA ha buscado; el conector Europaius registra cada consulta en su cuenta, de modo que siempre puede volver a la investigación realizada.

Preguntas frecuentes

Guías relacionadas

Información orientativa que no sustituye el asesoramiento jurídico. La conexión del conector requiere una cuenta de Europaius (gratuita). Más sobre Europaius · Europaius ES