La justicia frente a las “alucinaciones jurídicas”: una advertencia global desde la Corte Suprema de Colombia
La justicia frente a las “alucinaciones jurídicas”: una advertencia global desde la Corte Suprema de Colombia
La sentencia STC 17832-2025, dictada por la Corte Suprema de Justicia de Colombia el 5 de noviembre de 2025, constituye uno de los pronunciamientos más relevantes en materia de motivación judicial y uso de tecnologías generativas en la función jurisdiccional. Su impacto trasciende el caso concreto: introduce en el lenguaje jurídico el riesgo de las alucinaciones jurídicas y marca un estándar de diligencia para cualquier tribunal que utilice herramientas tecnológicas en la elaboración de sus decisiones.
1. El caso: cuando una decisión se funda en citas inexistentes
La Corte conoció una acción de tutela contra una sentencia del Tribunal Superior de Sincelejo cuya motivación incluía citas jurisprudenciales atribuidas a decisiones previas —entre ellas STC 13560-2023 y STC 4734-2025— que, al ser verificadas, no contenían los textos transcritos.
Este déficit no fue menor: comprometió la estructura argumentativa de la resolución revocada y afectó directamente el derecho fundamental al debido proceso de la parte recurrente. La Corte concluyó que este vicio equivalía a una vía de hecho por defecto fáctico y sustantivo: la decisión carecía de apoyo en derecho porque se sostenía en material inexistente.
2. La advertencia central: las “alucinaciones” y el deber de verificación
Aunque la sentencia no identificó expresamente que el tribunal hubiera utilizado IA generativa, sí subrayó que el patrón observado —citas que “suenan verosímiles” pero no existen en las fuentes originales— es típico de los contenidos generados por sistemas de IA sin el adecuado control humano.
La Corte introduce así un estándar que ya comienza a consolidarse internacionalmente:
«Quien decide debe verificar. No basta con citar: es obligatorio comprobar la existencia, autenticidad y pertinencia de toda fuente jurisprudencial o doctrinal incorporada a la motivación.»
Este principio se convierte en una regla de oro para cualquier juez o magistrado que emplee —directa o indirectamente— herramientas tecnológicas generativas.
3. Consecuencias institucionales: formación y cultura de la verificación
La decisión va más allá de la anulación del fallo defectuoso. Ordena remitir la sentencia al Consejo Superior de la Judicatura y a la Escuela Judicial Rodrigo Lara Bonilla, exigiendo que se difunda entre jueces y magistrados.
- La alfabetización tecnológica es ya parte inherente de la función jurisdiccional.
- El uso de IA requiere criterio jurídico, contraste de fuentes y control epistemológico; jamás sustitución del razonamiento judicial.
- La confianza pública en la justicia depende de la solidez verificable de sus fuentes.
4. Relevancia comparada y proyección en el contexto europeo y español
El pronunciamiento conecta con varias líneas internacionales que subrayan la supervisión humana, la trazabilidad y la gestión de riesgos en los sistemas de IA:
- Marcos internacionales de ética y gobernanza de la IA (por ejemplo, las recomendaciones y documentos de la UNESCO sobre IA ética).
- Instrumentos y debates del Consejo de Europa relativos a la transparencia y control humano en aplicaciones de IA.
- La regulación europea sobre inteligencia artificial (conocida como AI Act) que impone obligaciones de fiabilidad y gestión de riesgos en aplicaciones de alto impacto, entre las cuales se discute el uso en la administración de justicia.
En España el fallo colombiano puede servir de referencia técnica para la implementación de protocolos de verificación, formación judicial y medidas de transparencia cuando se utilicen herramientas tecnológicas en la motivación de las decisiones.
5. Síntesis doctrinal: una sentencia que redefine la motivación judicial
La STC 17832-2025 eleva la motivación judicial a su nivel más estricto:
- Exige acreditar la autenticidad de las fuentes citadas.
- Reconoce el riesgo real de las “alucinaciones jurídicas”.
- Establece que la técnica procesal y la técnica tecnológica son ya inseparables en el ejercicio judicial.
La Corte entiende la motivación como un espacio de racionalidad pública, no un lugar para automatismos ni para textos generados sin comprobación.
6. Preguntas abiertas para la doctrina
Para el debate académico quedan preguntas esenciales:
- ¿Debe regularse expresamente el uso de IA por jueces y magistrados?
- ¿Hasta qué punto la falta de verificación puede constituir responsabilidad disciplinaria o incluso civil del órgano judicial?
- ¿Qué protocolos deberían implantarse en España y la UE para garantizar que no existan “citas inexistentes” en resoluciones judiciales?
- ¿Debe incluirse en la motivación una cláusula de transparencia cuando se haya utilizado IA en la elaboración del texto?
- ¿Cómo conjugar el uso eficiente de IA con la exigencia de razonamiento jurídico explícito, controlable y trazable?
Breve referencia normativa aplicable (mención sucinta)
Instrumentos de referencia que resultan aplicables o útiles para contextualizar el fallo:
- Recomendaciones y marcos éticos internacionales sobre IA (UNESCO).
- Instrumentos y debates del Consejo de Europa sobre IA, transparencia y control humano.
- Regulación de la Unión Europea sobre inteligencia artificial (AI Act) y su régimen de obligaciones para sistemas de alto riesgo.
Comentarios
Publicar un comentario