Entre sanciones, alucinaciones y derechos de autor: los nuevos límites de la IA en el Derecho
Entre sanciones, alucinaciones y derechos de autor: los nuevos límites de la IA en el Derecho
Por Santiago Carretero Sánchez, Profesor de la Universidad Rey Juan Carlos
La jornada del 3 de septiembre de 2025 nos deja tres noticias que, más allá de su aparente diversidad, dibujan un mismo fenómeno: la interacción crítica entre la inteligencia artificial y el Derecho. Desde sanciones disciplinarias a letrados que presentan citas falsas generadas por IA, hasta acuerdos judiciales por el uso de obras protegidas en el entrenamiento de modelos, el hilo conductor es la necesidad de precisar los límites jurídicos de esta tecnología.
I. La sanción en Australia: responsabilidad profesional y deber de verificación
En un pronunciamiento sin precedentes en el ámbito australiano, un abogado fue sancionado por presentar como jurisprudencia válida una serie de precedentes inexistentes generados por un sistema de IA. La jueza Amanda Humphreys resolvió que el letrado incumplió el deber de diligencia profesional al no verificar la autenticidad de las citas.
Las consecuencias fueron ejemplares: prohibición de actuar como titular de despacho, imposibilidad de manejar cuentas fiduciarias y obligación de ejercer bajo estricta supervisión. Este caso constituye un hito en la configuración de la responsabilidad profesional del abogado en el uso de herramientas tecnológicas, estableciendo que la delegación en un sistema de IA no exime del cumplimiento de los estándares deontológicos.
II. “Alucinaciones” en Iowa: la amenaza procesal de las falsedades generadas por IA
Casi en paralelo, en Estados Unidos, el Tribunal Supremo de Iowa afrontó una situación similar: escritos procesales con citaciones ficticias atribuibles a un uso indebido de IA. El Colegio Disciplinario propuso incluso la supresión de los documentos y la imposición de sanciones al candidato a abogado.
El fenómeno conocido como alucinación de la IA —la generación de información verosímil pero falsa— adquiere aquí una dimensión institucional. La confianza de los tribunales en la solidez de los argumentos jurídicos se ve comprometida, obligando a replantear el principio de buena fe procesal y la función del abogado como garante de la veracidad.
En algunos tribunales federales, se han impuesto multas de hasta 15.000 dólares por casos similares, lo que anticipa una línea sancionadora creciente que trasciende lo meramente disciplinario y alcanza el terreno patrimonial.
III. Propiedad intelectual y entrenamiento de modelos: el acuerdo en el caso Anthropic
La tercera noticia proviene de la esfera del derecho de autor. La empresa Anthropic alcanzó un acuerdo preliminar con un grupo de escritores que denunciaban la utilización de sus obras, obtenidas de las llamadas shadow libraries, para entrenar el modelo Claude.
Aunque los tribunales habían insinuado que el uso de ciertos materiales podría encuadrarse en el fair use, la transacción pone de relieve la fragilidad de ese marco frente a la magnitud del daño potencial. Los autores reclamaban indemnizaciones que, de prosperar, habrían ascendido a cifras billonarias.
Este episodio abre un debate que trasciende la frontera estadounidense: ¿hasta qué punto el uso de contenidos protegidos para entrenar sistemas de IA puede considerarse legítimo? El caso Anthropic se convierte así en un laboratorio jurídico sobre la compatibilidad entre innovación tecnológica y tutela de los derechos de autor.
IV. Reflexión final: un Derecho en construcción
Estas tres noticias, tomadas en conjunto, ilustran que el Derecho digital no es una disciplina futura, sino un ámbito en plena ebullición. El ejercicio profesional de la abogacía, la integridad del proceso judicial y la protección de la creación intelectual se ven ya atravesados por las prácticas de la IA.
Se impone, por tanto, una cultura de verificación y responsabilidad en el uso de herramientas generativas, un fortalecimiento de los códigos deontológicos, y una reflexión urgente sobre los límites de la propiedad intelectual en la era algorítmica.
El jurista —ya sea abogado, juez o académico— no puede permanecer ajeno a esta transformación. Como enseña el caso australiano, la IA no sustituye el juicio crítico del profesional, sino que lo interpela con más rigor. Como evidencia Iowa, la buena fe procesal se convierte en piedra angular frente a las alucinaciones digitales. Y como demuestra Anthropic, la defensa de los derechos de autor seguirá siendo un terreno de fricción normativa esencial.
En definitiva, el Derecho y la IA están llamados a un diálogo constante, en el que la técnica jurídica deberá adaptarse sin renunciar a sus principios fundamentales.
Comentarios
Publicar un comentario