BLOG DE LAIAACTUAL (Santiago Carretero, Profesor Titular de Filosofía del Derecho)

  La gobernanza jurídica de la IA generativa: hacia un nuevo paradigma normativo internacional Santiago Carretero Sánchez Profesor Titular de la Universidad Rey Juan Carlos La reciente actualización de las directrices de la OCDE en materia de inteligencia artificial marca un punto de inflexión en la construcción de un marco jurídico internacional adaptado a los desafíos de la IA generativa. Este nuevo enfoque no se limita a reafirmar principios ya conocidos —como la transparencia o la rendición de cuentas—, sino que introduce una dimensión específica orientada a los riesgos emergentes derivados de sistemas capaces de producir contenido autónomo, verosímil y potencialmente indistinguible del generado por humanos. Uno de los ejes centrales de estas directrices es la exigencia de trazabilidad de los contenidos generados, lo que implica la necesidad de desarrollar mecanismos técnicos y jurídicos que permitan identificar el origen algorítmico de textos, imágenes o vídeos. Esta cuestión ...

  Responsabilidad civil por decisiones automatizadas en el sector asegurador: análisis de una reciente sentencia alemana Santiago Carretero Sánchez Profesor Titular de la Universidad Rey Juan Carlos y Abogado Con fecha 20 de marzo de 2026, el Landgericht de Múnich I (Tribunal Regional de Múnich I) ha dictado una resolución de notable relevancia en materia de responsabilidad civil derivada del uso de sistemas de inteligencia artificial en el ámbito asegurador. El caso (expediente nº 12 O 2345/25) se centra en la reclamación de un asegurado cuya cobertura fue denegada de manera automatizada mediante un sistema algorítmico de evaluación de riesgos, sin intervención humana efectiva. La compañía aseguradora justificó la decisión en base a un modelo predictivo entrenado con datos históricos, alegando su fiabilidad estadística y su uso generalizado en el sector. El órgano judicial aborda, en primer lugar, la cuestión relativa a la transparencia del sistema utilizado. En este sentido, el t...

  La responsabilidad jurídica por decisiones automatizadas en sistemas de IA  Santiago Carretero Sánchez, Profesor Titular  de Universidad, Abogado En fecha 26 de marzo de 2026, diversos medios especializados y fuentes institucionales europeas han vuelto a poner de relieve los riesgos asociados al uso de sistemas de inteligencia artificial en procesos de toma de decisiones automatizadas, especialmente en contextos con efectos jurídicos relevantes. Aunque no se identifica un único caso jurisdiccional consolidado, sí existe una preocupación creciente documentada en comunicaciones institucionales y análisis regulatorios recientes.  La  creciente atención institucional y mediática registrada en torno al 26 de marzo de 2026 respecto al uso de sistemas de inteligencia artificial en procesos decisionales automatizados ha reactivado un debate jurídico de primer orden, centrado en la imputación de responsabilidad cuando dichos sistemas producen efectos jurídicos relevant...

  La AEPD delimita el uso jurídico de la IA generativa: hacia una responsabilidad reforzada en el tratamiento de datos En fecha 25 de marzo de 2026, la Agencia Española de Protección de Datos ha hecho pública una nota técnica de especial relevancia en relación con el uso de sistemas de inteligencia artificial generativa en contextos jurídicos y profesionales. Este pronunciamiento, aunque no normativo, presenta un indudable valor interpretativo en la aplicación del Reglamento (UE) 2016/679 y del marco europeo emergente en materia de inteligencia artificial. El núcleo de la cuestión reside en la consideración de los modelos generativos como potenciales sistemas de tratamiento de datos personales incluso en fases de entrenamiento y uso indirecto. La AEPD subraya que no basta con la anonimización aparente de los datos, sino que debe garantizarse la imposibilidad real de reidentificación, lo que introduce un estándar técnico y jurídico particularmente exigente para operadores jurídicos ...

  Santiago Carretero Sánchez, Profesor Titular de la Universidad Rey Juan Carlos, Abogado del Ilustre Colegio de Abogados de Madrid L a iniciativa del Digital Omnibus on AI. Esta propuesta, presentada por la Comisión Europea en noviembre de 2025 y en fase de acuerdo político preliminar entre los eurodiputados en marzo de 2026, representa un ajuste estratégico del marco regulatorio más ambicioso del mundo en materia de inteligencia artificial. Su desarrollo permite a los juristas comprender cómo el Derecho no solo impone límites, sino que se adapta dinámicamente para evitar rigideces que podrían frenar la competitividad europea sin menoscabar las salvaguardas fundamentales. En un contexto en el que el Reglamento (UE) 2024/1689 —conocido como AI Act— se acerca a su plena aplicabilidad el 2 de agosto de 2026, la Comisión ha optado por un paquete de medidas de simplificación dirigido a garantizar una implementación “oportuna, fluida y proporcionada”. Esta intervención legislativa intr...

  La evaluación de riesgos en sistemas de Inteligencia Artificial en la Unión Europea: hacia un modelo jurídico preventivo  Santiago Carretero Sánchez Profesor Titular de la Universidad Rey Juan Carlos  La reciente publicación de criterios técnicos por parte de la Comisión Europea en materia de evaluación de riesgos en sistemas de inteligencia artificial constituye un paso decisivo en la transición desde un modelo normativo programático hacia un sistema jurídico plenamente operativo. En el contexto del Reglamento de Inteligencia Artificial (AI Act), la noción de riesgo deja de ser una categoría abstracta para adquirir una dimensión jurídico-aplicativa concreta, especialmente en aquellos sistemas que inciden de forma directa o indirecta en los derechos fundamentales. Desde una perspectiva técnica, los documentos difundidos introducen metodologías estructuradas de análisis que permiten clasificar los sistemas en función de su impacto potencial.  Estas matrices de riesg...

  La inteligencia artificial ante el juez civil: una lectura monográfica de la sentencia del Tribunal Superior de Cali (17 de marzo de 2026) Por Santiago Sánchez, Profesor Titular de la Universidad Rey Juan Carlos El 17 de marzo de 2026, el Tribunal Superior de Cali dictó una resolución que marca un hito en la relación entre el proceso civil y la inteligencia artificial generativa. La Sala analizó si sistemas como ChatGPT Pro pueden comparecer como «prueba técnica basada en IA» dentro de un litigio de responsabilidad civil médica. Aunque la petición se rechazó, la importancia de la sentencia no reside en el resultado concreto, sino en la arquitectura jurídica que construye para abordar la irrupción de las herramientas generativas en el proceso. El núcleo del caso consistía en determinar si el uso de un modelo generativo podía equipararse a una pericia, de modo que su comparecencia en audiencia aportara información técnicamente verificable y valorable por el juez. El Tribunal aborda...