BLOG DE LAIAACTUAL (Santiago Carretero, Profesor Titular de Filosofía del Derecho)

  El Reglamento Europeo de Inteligencia Artificial como Derecho preventivo del riesgo algorítmico El Reglamento (UE) 2024/1689, de 13 de junio de 2024, representa el primer marco normativo integral destinado a regular la inteligencia artificial en la Unión Europea. Su rasgo esencial consiste en que no disciplina la tecnología en sí misma considerada, sino los usos jurídicamente relevantes de los sistemas de IA, adoptando un enfoque funcional que permite su adaptación a la evolución técnica futura. La norma responde así a la necesidad de conciliar innovación tecnológica, protección de los derechos fundamentales y seguridad jurídica en el mercado interior. El Reglamento se construye sobre un modelo de regulación basado en el riesgo, sustituyendo la lógica uniforme por una gradación normativa en función del potencial lesivo de cada sistema. En el nivel más alto se sitúan los usos prohibidos de la inteligencia artificial, aquellos que por su propia naturaleza resultan incompatibles con...

  La notificación de incidentes graves en sistemas de IA de alto riesgo: análisis jurídico del artículo 73 del AI Act Santiago Carretero, Profesor Titular URJC La guía sobre notificación y gestión de incidentes graves se integra en el marco del Reglamento (UE) 2024/1689 de Inteligencia Artificial, particularmente en su artículo 73, relativo al control posterior a la comercialización de los sistemas de IA de alto riesgo. Su finalidad es proporcionar un modelo interpretativo y operativo que permita a los proveedores y responsables del despliegue cumplir de manera efectiva las obligaciones jurídicas derivadas del Reglamento, anticipando la futura aprobación de normas armonizadas y directrices de la Comisión Europea. No tiene carácter vinculante, pero constituye un instrumento técnico de aplicación práctica del Derecho europeo de la inteligencia artificial. El concepto de “incidente grave” se define de manera material en el artículo 3.49 del Reglamento, comprendiendo aquellos acontecim...

  La inteligencia artificial en la Administración de Justicia: análisis jurídico de la nueva Instrucción del CGPJ sobre su uso por jueces y magistrados Autor: Santiago Carretero Sánchez Titular   de la   Universidad Rey Juan Carlos 1. Introducción El Pleno del Consejo General del Poder Judicial ha aprobado una Instrucción que regula el uso de la inteligencia artificial en la Administración de Justicia, estableciendo un marco normativo vinculante para jueces y magistrados en relación con las herramientas de IA que pueden emplear en su actividad profesional. La noticia, difundida por Confilegal , pone de relieve la preocupación institucional por garantizar que la incorporación de sistemas de IA generativa no comprometa principios estructurales del Estado de Derecho como la independencia judicial, la responsabilidad personal del juez y la tutela de los derechos fundamentales. Esta Instrucción se inserta en un contexto europeo y nacional marcado por el Regla...

  La evaluación de la conformidad en el Reglamento Europeo de Inteligencia Artificial: una aproximación sistemática Santiago Carretero Sánchez, Profesor Titular de Filosofía del Derecho, URJC. La evaluación de la conformidad constituye el núcleo estructurante del modelo regulatorio instaurado por el Reglamento (UE) 2024/1689 relativo a la Inteligencia Artificial. Lejos de configurarse como un requisito meramente procedimental, la conformidad expresa la lógica completa del régimen europeo de gobernanza algorítmica: solo los sistemas que acrediten cumplir, de manera verificable y documentada, los requisitos establecidos en los artículos 8 a 15 pueden ser introducidos en el mercado o puestos en servicio en el territorio de la Unión. La Guía de Evaluación de la Conformidad elaborada por la AESIA sistematiza esta lógica inscribiéndola en el marco del Nuevo Marco Legislativo (NML), cuyos instrumentos —normas armonizadas, organismos notificados, documentación técnica, declaración UE d...

  La Solidez en los Sistemas de Inteligencia Artificial de Alto Riesgo: Finalidad, Alcance y Concreción Jurídica de la Guía de AESIA Santiago Carretero Sánchez, Profesor Titular URJC. Filosofía del Derecho La solidez técnica de los sistemas de inteligencia artificial de alto riesgo se ha convertido en uno de los elementos vertebradores del nuevo Derecho europeo de la inteligencia artificial. La Guía de Solidez elaborada por la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA) ofrece un marco operativo y metodológico destinado a facilitar la correcta implementación del Reglamento (UE) 2024/1689, traduciendo sus obligaciones en criterios comprensibles y aplicables por proveedores y responsables del despliegue. Aunque no posee carácter jurídico vinculante, su relevancia resulta indiscutible: se configura como un instrumento de soft law de alto valor interpretativo, sometido a un proceso constante de actualización y alineado con los estándares europeos en desarro...

  Los pilares esenciales de la transparencia en el Reglamento Europeo de IA (AI Act): claves de la nueva guía 2025 Santiago Carretero, Profesor Titular de la Universidad Rey Juan Carlos La transparencia es un requisito estructural del Reglamento Europeo de Inteligencia Artificial (Reglamento 2024/1689). La  Guía de Transparencia 2025  del sandbox regulatorio español ofrece un marco práctico para cumplir el  artículo 13  del AI Act y articular la confianza en sistemas de alto riesgo. 1. Transparencia: un concepto estructural del AI Act La transparencia no se reduce a “explicar un algoritmo”. En clave jurídica, implica que toda persona involucrada en el ciclo de vida —diseñadores, responsables del despliegue y, muy especialmente, las  personas afectadas — pueda  comprender, interpretar y supervisar  el sistema. Explicabilidad e interpretabilidad técnica con sentido jurídico. Información accesible en lenguaje natural y útil para la toma de decisiones...

  La vigilancia humana en los sistemas de IA de alto riesgo: lectura jurídica de la Guía de AESIA   Santiago Carretero Profesor Titular  de la  Universidad Rey Juan Carlos   1. Introducción   La Agencia Española de Supervisión de la Inteligencia Artificial (AESIA) ha publicado recientemente una Guía de implementación sobre la vigilancia humana en los sistemas de Inteligencia Artificial de alto riesgo, elaborada en el marco del sandbox regulatorio español y concebida como instrumento de apoyo interpretativo del Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial (AI Act).   Aunque dicho documento carece de carácter jurídicamente vinculante, su relevancia normativa resulta indiscutible, en la medida en que constituye un ejemplo paradigmático de soft law administrativo con vocación de orientar la actuación de los proveedo...

  Gobernanza jurídica de la inteligencia artificial en 2026: responsabilidad algorítmica, supervisión y el fin de la gratuidad  Santiago Carretero Sánchez, Profesor Titular de Filosofía, URJC 1. Planteamiento general El año 2026 se perfila como un punto de inflexión en la gobernanza jurídica de la inteligencia artificial. El reciente informe de OneTrust sobre las principales tendencias regulatorias y organizativas en materia de IA anticipa un desplazamiento claro desde enfoques voluntaristas o éticos hacia modelos de responsabilidad jurídica estructurada, alineados con marcos normativos vinculantes como el Reglamento (UE) de Inteligencia Artificial. 2. Las cinco transformaciones en la gobernanza de la IA El informe identifica cinco vectores de cambio: el reforzamiento de la rendición de cuentas algorítmica; la integración de la supervisión humana como obligación jurídica y no mera recomendación; la trazabilidad documental de los sistemas; la convergencia entre protección de da...

  La inteligencia artificial y la formación jurídica: de la adaptación curricular a la enseñanza especializada La incorporación de la inteligencia artificial en el ámbito jurídico ha dejado de ser una cuestión prospectiva para convertirse en un fenómeno estructural que afecta directamente a la forma de enseñar, aprender y ejercer el Derecho . Dos hechos recientes, producidos el 21 de enero de 2026, permiten ilustrar con claridad esta transformación: por un lado, la reflexión doctrinal sobre la necesidad de reformar la enseñanza del Derecho ante la irrupción de la IA; por otro, la decisión de una universidad de integrar formalmente el uso de la inteligencia artificial como materia específica dentro del plan de estudios jurídicos. Desde una perspectiva académica, la primera cuestión relevante es el desajuste creciente entre los métodos tradicionales de enseñanza jurídica y el nuevo entorno tecnológico en el que operan los juristas. La inteligencia artificial ya interviene en tarea...

  Docencia universitaria y uso jurídico de la inteligencia artificial: entre la ilusión técnica y la responsabilidad académica Santiago Carretero Sánchez Profesor Titular de Universidad. Universidad Rey Juan Carlos El simposio internacional «Artificial Intelligence and the Law», organizado bajo el auspicio de la UNESCO y celebrado en enero de 2026 en la Universidad de Estambul, ha vuelto a situar en el centro del debate una cuestión clave para la enseñanza del Derecho: el papel real que puede y debe desempeñar la inteligencia artificial generativa en la formación jurídica universitaria. La ponencia presentada por el profesor Brian Flanagan, titulada  «AI as Lawyer: The Hallucination and the Noble Dream» , resulta especialmente relevante desde una perspectiva docente, en la medida en que desmonta la idea —cada vez más extendida entre estudiantes y operadores— de que los sistemas de IA pueden sustituir al razonamiento jurídico humano. El concepto de “alucinación”, aplicado a la ...

  Aterrizar el Reglamento Europeo de Inteligencia Artificial: función jurídica y práctica del Sandbox regulatorio Santiago Carretero Sánchez Profesor Titular de la Universidad Rey Juan Carlos Área de Filosofía del Derecho La aprobación del Reglamento (UE) de Inteligencia Artificial (Artificial Intelligence Act, RIA) marca un punto de inflexión en la forma en que el Derecho de la Unión Europea aborda las tecnologías digitales emergentes. La inteligencia artificial se presenta, simultáneamente, como un vector de innovación económica y como una fuente potencial de riesgos graves para los derechos fundamentales, la seguridad y la salud de las personas. Esta tensión explica el enfoque regulatorio europeo, que no persigue frenar el desarrollo tecnológico, sino encauzarlo mediante garantías de fiabilidad, trazabilidad, control y responsabilidad. Ahora bien, la eficacia del Reglamento no depende únicamente de la calidad de sus mandatos normativos, sino de su capacidad para ser aplicado de ...