Jurisprudencia ficticia y negligencia profesional: la IA como riesgo procesal en el Reino Unido

Santiago Carretero Sánchez, Profesor Titular de Filosofía del Derecho

El diario U.S. News ha informado hoy de un hecho inquietante: varios abogados británicos presentaron en sede judicial sentencias inexistentes generadas por inteligencia artificial. El juez del caso ha calificado el incidente como una “amenaza real para la integridad del proceso”, exigiendo una respuesta inmediata del sistema jurídico.

Más allá del sensacionalismo, el caso revela un problema estructural: la utilización acrítica de modelos de IA generativa sin mecanismos de verificación ni comprensión de sus límites técnicos. La IA puede “alucinar” (hallucinate), generando resoluciones con apariencia de validez jurídica, pero carentes de existencia real.

Implicaciones jurídicas

- El principio de buena fe procesal (art. 247 LEC).

- El deber de diligencia profesional (art. 12 Código Deontológico).

- La posible configuración de fraude procesal o falsedad documental, si se acredita intencionalidad.

Reflexión docente

Este incidente interpela a la docencia jurídica: debemos formar a los futuros juristas en el uso ético y crítico de la IA. No basta con saber emplear herramientas; hay que comprender sus sesgos, limitaciones y efectos jurídicos. La técnica sin ética degrada el Derecho; la automatización sin responsabilidad lo desnaturaliza.

Propuesta mínima

1. Protocolos de cita y verificación de jurisprudencia.

2. Formación obligatoria en IA para operadores jurídicos.

3. Auditorías de herramientas legaltech.

La IA no debe sustituir la prudencia jurídica ni suplantar la fuente del Derecho. En manos inexpertas o negligentes, la tecnología se convierte en amenaza para el proceso justo.

Fuente de la noticia:

U.S. News. "UK Judge Warns of Risk to Justice After Lawyers Cited Fake AI-Generated Cases in Court", 7 de junio de 2025. Disponible en: https://www.usnews.com/news/technology/articles/2025-06-07/