BLOG DE LAIAACTUAL (Santiago Carretero, Profesor Titular de Filosofía del Derecho)

  Puede la inteligencia artificial ser sujeto de Derecho? Personalidad jurídica y sistemas inteligentes Santiago Carretero Sánchez, Profesor Titular de Filosofía del Derecho, URJC El debate sobre la eventual atribución de personalidad jurídica a sistemas de inteligencia artificial ha dejado de ser una cuestión teórica para convertirse en un problema jurídico de creciente relevancia práctica. Las reflexiones formuladas por Yuval Noah Harari en el Foro Económico Mundial de Davos 2026 han contribuido a reactivar esta discusión, al plantear si determinados sistemas de IA, por su capacidad de actuación autónoma y de generación de efectos jurídicos relevantes, podrían llegar a ser reconocidos como sujetos de Derecho. Conviene precisar, desde el inicio, que el planteamiento no se funda en la idea de conciencia, sensibilidad o dignidad moral de las máquinas, sino en su progresiva capacidad para intervenir de facto en el tráfico jurídico, económico y social. La cuestión central es, por ...

  El Reglamento Europeo de Inteligencia Artificial como Derecho preventivo del riesgo algorítmico El Reglamento (UE) 2024/1689, de 13 de junio de 2024, representa el primer marco normativo integral destinado a regular la inteligencia artificial en la Unión Europea. Su rasgo esencial consiste en que no disciplina la tecnología en sí misma considerada, sino los usos jurídicamente relevantes de los sistemas de IA, adoptando un enfoque funcional que permite su adaptación a la evolución técnica futura. La norma responde así a la necesidad de conciliar innovación tecnológica, protección de los derechos fundamentales y seguridad jurídica en el mercado interior. El Reglamento se construye sobre un modelo de regulación basado en el riesgo, sustituyendo la lógica uniforme por una gradación normativa en función del potencial lesivo de cada sistema. En el nivel más alto se sitúan los usos prohibidos de la inteligencia artificial, aquellos que por su propia naturaleza resultan incompatibles con...

  La notificación de incidentes graves en sistemas de IA de alto riesgo: análisis jurídico del artículo 73 del AI Act Santiago Carretero, Profesor Titular URJC La guía sobre notificación y gestión de incidentes graves se integra en el marco del Reglamento (UE) 2024/1689 de Inteligencia Artificial, particularmente en su artículo 73, relativo al control posterior a la comercialización de los sistemas de IA de alto riesgo. Su finalidad es proporcionar un modelo interpretativo y operativo que permita a los proveedores y responsables del despliegue cumplir de manera efectiva las obligaciones jurídicas derivadas del Reglamento, anticipando la futura aprobación de normas armonizadas y directrices de la Comisión Europea. No tiene carácter vinculante, pero constituye un instrumento técnico de aplicación práctica del Derecho europeo de la inteligencia artificial. El concepto de “incidente grave” se define de manera material en el artículo 3.49 del Reglamento, comprendiendo aquellos acontecim...

  La inteligencia artificial en la Administración de Justicia: análisis jurídico de la nueva Instrucción del CGPJ sobre su uso por jueces y magistrados Autor: Santiago Carretero Sánchez Titular   de la   Universidad Rey Juan Carlos 1. Introducción El Pleno del Consejo General del Poder Judicial ha aprobado una Instrucción que regula el uso de la inteligencia artificial en la Administración de Justicia, estableciendo un marco normativo vinculante para jueces y magistrados en relación con las herramientas de IA que pueden emplear en su actividad profesional. La noticia, difundida por Confilegal , pone de relieve la preocupación institucional por garantizar que la incorporación de sistemas de IA generativa no comprometa principios estructurales del Estado de Derecho como la independencia judicial, la responsabilidad personal del juez y la tutela de los derechos fundamentales. Esta Instrucción se inserta en un contexto europeo y nacional marcado por el Regla...

  La evaluación de la conformidad en el Reglamento Europeo de Inteligencia Artificial: una aproximación sistemática Santiago Carretero Sánchez, Profesor Titular de Filosofía del Derecho, URJC. La evaluación de la conformidad constituye el núcleo estructurante del modelo regulatorio instaurado por el Reglamento (UE) 2024/1689 relativo a la Inteligencia Artificial. Lejos de configurarse como un requisito meramente procedimental, la conformidad expresa la lógica completa del régimen europeo de gobernanza algorítmica: solo los sistemas que acrediten cumplir, de manera verificable y documentada, los requisitos establecidos en los artículos 8 a 15 pueden ser introducidos en el mercado o puestos en servicio en el territorio de la Unión. La Guía de Evaluación de la Conformidad elaborada por la AESIA sistematiza esta lógica inscribiéndola en el marco del Nuevo Marco Legislativo (NML), cuyos instrumentos —normas armonizadas, organismos notificados, documentación técnica, declaración UE d...

  La Solidez en los Sistemas de Inteligencia Artificial de Alto Riesgo: Finalidad, Alcance y Concreción Jurídica de la Guía de AESIA Santiago Carretero Sánchez, Profesor Titular URJC. Filosofía del Derecho La solidez técnica de los sistemas de inteligencia artificial de alto riesgo se ha convertido en uno de los elementos vertebradores del nuevo Derecho europeo de la inteligencia artificial. La Guía de Solidez elaborada por la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA) ofrece un marco operativo y metodológico destinado a facilitar la correcta implementación del Reglamento (UE) 2024/1689, traduciendo sus obligaciones en criterios comprensibles y aplicables por proveedores y responsables del despliegue. Aunque no posee carácter jurídico vinculante, su relevancia resulta indiscutible: se configura como un instrumento de soft law de alto valor interpretativo, sometido a un proceso constante de actualización y alineado con los estándares europeos en desarro...

  Los pilares esenciales de la transparencia en el Reglamento Europeo de IA (AI Act): claves de la nueva guía 2025 Santiago Carretero, Profesor Titular de la Universidad Rey Juan Carlos La transparencia es un requisito estructural del Reglamento Europeo de Inteligencia Artificial (Reglamento 2024/1689). La  Guía de Transparencia 2025  del sandbox regulatorio español ofrece un marco práctico para cumplir el  artículo 13  del AI Act y articular la confianza en sistemas de alto riesgo. 1. Transparencia: un concepto estructural del AI Act La transparencia no se reduce a “explicar un algoritmo”. En clave jurídica, implica que toda persona involucrada en el ciclo de vida —diseñadores, responsables del despliegue y, muy especialmente, las  personas afectadas — pueda  comprender, interpretar y supervisar  el sistema. Explicabilidad e interpretabilidad técnica con sentido jurídico. Información accesible en lenguaje natural y útil para la toma de decisiones...