Jurisprudencia que no existe: cómo funcionan las alucinaciones de la IA y cómo proteger su trabajo jurídico
El modelo no miente con intención: simplemente no sabe cuándo no sabe. Esa es exactamente la diferencia con un colega confiable.
En tribunales de medio mundo ya hay abogados sancionados por presentar jurisprudencia que no existe, inventada por un chatbot. El fenómeno tiene nombre técnico —alucinación— y una mecánica conocida que todo abogado que use IA generativa debe entender, porque la sanción no cae sobre la herramienta: cae sobre quien firma el escrito.
Qué es una alucinación y por qué ocurre
Los modelos de lenguaje no consultan una base de datos de fallos: generan texto estadísticamente plausible. Cuando se les pide jurisprudencia sobre un tema, producen lo que una respuesta típica debería contener —nombre de tribunal, rol de causa, fecha, extracto— con la forma exacta de una cita real, aunque el fallo jamás haya existido. El modelo no tiene un indicador interno de certeza: no sabe cuándo no sabe, y esa es la diferencia crítica con cualquier fuente jurídica tradicional.
El problema se agrava con lo específico de la consulta: mientras más particular el tema y más chico el corpus disponible —jurisprudencia chilena de una materia de nicho, por ejemplo—, mayor la probabilidad de que el modelo complete los vacíos con invención plausible.
Los antecedentes que nadie quiere repetir
El caso más citado sigue siendo el de los abogados neoyorquinos sancionados en 2023 por presentar citas inventadas por ChatGPT, pero desde entonces los tribunales de varios países han acumulado episodios similares, con consecuencias que van de multas a referidos disciplinarios y daño reputacional permanente. En Chile, las directrices del Poder Judicial y las políticas de los estudios ya advierten explícitamente sobre el riesgo, y nuestras guías de verificación de salidas de IA y de verificar jurisprudencia generada por IA detallan los protocolos.
El protocolo mínimo antes de citar
La regla de oro es simple: ninguna cita generada por IA se usa sin verificación en la fuente oficial. Operacionalmente:
- Tome cada referencia —fallo, norma, doctrina— y búsquela en el repositorio oficial: sitio del Poder Judicial, Ley Chile, biblioteca del Congreso.
- Verifique no solo que la referencia existe, sino que dice lo que la IA afirma: los modelos también distorsionan contenido de fallos reales.
- Si la referencia no aparece en la fuente oficial, no existe a efectos de su escrito, aunque «suene» perfecta.
- Documente la verificación: si un tribunal le pregunta, la cadena de custodia de su cita es su defensa.
Para el trabajo con extractos y argumentos, la misma lógica: la IA redacta borradores; la fuente oficial confirma. Nuestra guía de qué está permitido en la justicia chilena sitúa estos protocolos en el marco de las reglas vigentes.
Más allá de la jurisprudencia: las otras alucinaciones
Las citas inventadas son el riesgo visible, pero no el único. Los modelos también mezclan normas derogadas con vigentes, atribuyen a una ley artículos de otra, resumen mal un fallo real y generan estadísticas sin fuente. En escritos de fondo, la revisión debe cubrir tanto las citas formales como las afirmaciones fácticas: cada número, cada fecha, cada atribución normativa merece el mismo escepticismo que el rol de causa.
Cuando la herramienta afirma que verificó
Un agravante reciente: algunos sistemas ahora aseguran haber «consultado fuentes» o incluso citan enlaces. La precaución es la misma: un enlace generado puede ser una URL plausible que no lleva a ninguna parte, o llevar a una página que no contiene lo citado. La verificación humana debe llegar hasta el texto oficial, no hasta el enlace que la herramienta ofrece. La confianza se deposita en la fuente, nunca en el intermediario, por elegante que sea su interfaz.
El deber no delegable
Ninguna política interna y ningún descargo de responsabilidad del proveedor cambian el punto final: el abogado que firma el escrito responde por su contenido completo, incluido lo que redactó la máquina. Usar IA sin verificar no es innovación: es negligencia con herramientas nuevas. Usarla con verificación sistemática, en cambio, es lo que permiten y esperan las directrices actuales, y donde la tecnología sí cumple su promesa de ahorrar tiempo sin hipotecar la responsabilidad profesional.
Preguntas frecuentes
¿Por qué la IA inventa fallos que no existen?
Porque los modelos de lenguaje generan texto plausible a partir de patrones, no consultan bases de datos: cuando no tienen la información, completan con invención verosímil, con la forma exacta de una cita real.
¿Hay sanciones reales por presentar jurisprudencia falsa?
Sí: tribunales de varios países han multado y referido a abogados por citas inventadas por IA, además del daño reputacional; en Chile, la responsabilidad del abogado por el contenido de sus escritos es plena.
¿Cómo verifico una cita generada por IA?
Búsquela en la fuente oficial —sitio del Poder Judicial, Ley Chile, BCN— y confirme que el fallo existe y dice lo afirmado; si no aparece, no se usa.
¿Puedo usar IA para redactar si verifico todo?
Sí: las directrices vigentes permiten el uso con supervisión humana; la redacción asistida con verificación completa de citas y datos es el uso aceptado.
Fuentes y límites
Guía editorial elaborada con base en la literatura sobre IA generativa y la práctica forense chilena; las políticas de cada tribunal y estudio pueden ser más exigentes. Información, no asesoramiento jurídico.
