La responsabilidad jurídica frente a la inteligencia artificial

Por Santiago Carretero Sánchez, Profesor Titular de Filosofía del Derecho, Universidad Rey Juan Carlos 

La acelerada integración de la inteligencia artificial en el ejercicio del Derecho está mostrando tanto oportunidades como riesgos. El 29 de septiembre de 2025 nos ofrece tres ejemplos de enorme interés para comprender hasta qué punto la IA debe ser analizada no solo como herramienta tecnológica, sino como un fenómeno jurídico y social que exige criterios de responsabilidad claros.

La función irrenunciable del jurista

La primera reflexión surge a propósito del uso de sistemas generativos en la redacción de escritos y en la elaboración de argumentos judiciales. Se advierte que las llamadas “alucinaciones” de la IA pueden derivar en errores graves si no existe una validación humana rigurosa. La firma del profesional del Derecho nunca puede convertirse en un trámite de confianza ciega hacia la máquina, pues lo que está en juego es la seguridad jurídica y la confianza de la ciudadanía en el sistema judicial. La doctrina del deber de diligencia adquiere aquí una nueva dimensión, vinculada al control técnico y ético de las herramientas digitales.

Prevención de riesgos laborales y responsabilidad empresarial

El segundo eje se sitúa en el ámbito de la prevención laboral. La implantación de sistemas de IA en la detección de peligros en el entorno de trabajo puede generar fallos con consecuencias humanas y jurídicas graves. Un error algorítmico en este campo no solo acarrea sanciones administrativas, sino también indemnizaciones civiles y la eventual responsabilidad penal de los empresarios. Resulta imprescindible articular estándares de validación, auditorías externas y mecanismos de trazabilidad que permitan delimitar responsabilidades y evitar la difuminación de la autoría en una cadena tecnológica.

La lucha contra las alucinaciones en el ámbito jurídico

Por último, desde el plano académico se ha puesto el foco en las limitaciones de los modelos generativos. La técnica conocida como Retrieval-Augmented Generation (RAG) constituye una vía relevante para reducir los riesgos de falsedad en las respuestas de la IA jurídica. Sin embargo, esta metodología no es suficiente si no se acompaña de una integración responsable que incluya supervisión continua, transparencia en las fuentes y mecanismos de rendición de cuentas. La IA debe concebirse como un instrumento consultivo y nunca como sustituto de la deliberación jurídica.

Estas tres dimensiones revelan un mismo núcleo: la necesidad de mantener la centralidad del ser humano en la práctica jurídica, combinando innovación tecnológica con la preservación de los principios de responsabilidad, diligencia y tutela efectiva de derechos.

Fuentes:

• Artículo de opinión en Río Negro: “Inteligencia Artificial, fallos judiciales y el deber irrenunciable de humanidad” (29/09/2025). Enlace
• El Economista: “Los errores de la inteligencia artificial en prevención laboral pueden derivar en sanciones, indemnizaciones y hasta cárcel para el empresario” (29/09/2025). Enlace
• ArXiv: “Inteligencia Artificial jurídica y el desafío de la veracidad: análisis de alucinaciones, optimización de RAG y principios para una integración responsable” (septiembre 2025). Enlace