BLOG DE LAIAACTUAL (Santiago Carretero, Profesor Titular de Filosofía del Derecho)

  PANORAMA ACTUAL DE LA DIRECTIVA SOBRE LA RESPONSABILIDAD DEL USO DE LA IA   Santiago Carretero, Profesor Titular de la Universidad Rey Juan Carlos   Marco normativo general La Unión Europea ha desarrollado un entramado regulatorio pionero en inteligencia artificial. En diciembre de 2023 el Parlamento Europeo aprobó por amplia mayoría la Ley de IA (Reglamento UE 2024/1689), diseñada para garantizar que los sistemas de IA sean seguros y respeten los derechos fundamentales mientras impulsan la innovación europarl.europa.eu digital-strategy.ec.europa.eu . Este reglamento adopta un enfoque basado en el riesgo (prohibiciones de usos inaceptables, obligaciones para IA de alto riesgo, transparencia para usos generales) y crea una Oficina Europea de IA para supervisión centralizada elpais.com digital-strategy.ec.europa.eu . Las instituciones destacan que se trata de un marco regulatorio global y avanzado , “pionero en el mundo” y “vanguardista y responsable” elpais.c...

  Paquete "Omnibus" del AI Act: alcance, riesgos y consecuencias para la protección de derechos Santiago Carretero Sanchez, Profesor Titular de Filosofía del Derecho, Universidad Rey Juan Carlos  Resumen. Exposición analítica y crítica del paquete de simplificación normativa (denominado en la presente entrada “paquete omnibus”) que propone la Comisión Europea para modular la aplicación del AI Act y reglas conexas —especialmente en materia de tratamiento de datos personales—. Se describen las modificaciones más relevantes, su efecto sobre los sistemas clasificados como de  alto riesgo , las implicaciones para el cumplimiento en España y los riesgos para derechos fundamentales; se concluye con propuestas doctrinales de ajuste normativo y operativo. 1. Contexto normativo y objetivo del análisis El presente análisis parte de las comunicaciones y propuestas hechas públicas por la Comisión Europea en noviembre de 2025 relativas a un paquete de simplificación regulatoria que afe...

  Entre la transparencia y el repliegue normativo: el nuevo equilibrio europeo ante la IA Por Santiago Carretero, Profesor Titular de la Universidad Rey Juan Carlos 1. El aplazamiento de las obligaciones de “alto riesgo” La Comisión Europea ha propuesto retrasar hasta diciembre de 2027 la aplicación plena de las normas más estrictas del AI Act para sistemas de alto riesgo, generando un escenario de incertidumbre regulatoria que afecta directamente al principio de confianza legítima y a la planificación de cumplimiento de empresas y administraciones. 2. Críticas por retroceso en protecciones digitales Organizaciones de derechos digitales alertan de una flexibilización del marco europeo de protección de datos y supervisión algorítmica. El posible debilitamiento de garantías impacta en principios esenciales del RGPD y en los mecanismos de accountability previstos por el AI Act. 3. La obligación legal de transparencia algorítmica El AI Act refuerza la exigencia de informar al usuario c...

  La Unión Europea replantea su regulación digital: retraso del Reglamento de IA y flexibilización de la GDPR» Por Santiago García Carretero, Profesor Titular de la Universidad Rey Juan Carlos 1. Introducción El 19–20 de noviembre de 2025 la Unión Europea anunció un giro significativo en su estrategia regulatoria sobre inteligencia artificial y protección de datos. Bajo el paquete denominado Digital Omnibus , la Comisión propone retrasar hasta diciembre de 2027 la aplicación de partes esenciales del Reglamento de Inteligencia Artificial (AI Act) , al tiempo que inicia una flexibilización profunda de determinados componentes de la GDPR . Estas medidas han generado una intensa reacción en la comunidad jurídica europea: mientras la industria tecnológica celebra la ampliación de los plazos, las organizaciones de derechos digitales y parte de la doctrina alertan de un retroceso normativo de gran magnitud . Fuentes principales: Reuters: EU to delay “high risk” AI rules...

  ¿Quién teme al Reglamento Europeo de IA? Presiones, Potencias y el Futuro de la Regulación Autor: Santiago Carretero Sánchez profesor Titular de Filosofía del Derecho. URJC 1. Contexto normativo El Reglamento Europeo de Inteligencia Artificial (AI Act), aprobado en 2024, es el primer marco legal integral para regular la IA a nivel mundial. Basado en un enfoque de riesgo, prohíbe usos inaceptables, impone obligaciones estrictas para sistemas de alto riesgo y establece requisitos de transparencia para modelos generativos. 2. Motivos del retraso Falta de estándares técnicos:  Las normas armonizadas aún no están listas, generando inseguridad jurídica. Complejidad regulatoria:  Startups y pymes denuncian costes desproporcionados. Competitividad global:  Riesgo de quedar rezagados frente a EE.UU. y China. Lobby empresarial:  Grandes tecnológicas sostienen que la ley amenaza la innovación. 3. Actores y estrategias Big Tech:  Google, Apple, Meta y OpenAI buscan s...

  AI‑LEARN (URJC): integración práctica de asistentes legales y responsabilidades profesionales   Santiago Carretero  — 19 de noviembre de 2025  profesor Titular de Filosofía del Derecho, URJC Resumen de la entrada como idea central: La Universidad Rey Juan Carlos ha inaugurado el laboratorio  AI‑LEARN , un espacio docente y experimental que incorpora asistentes legales basados en inteligencia artificial y entornos inmersivos para la formación práctica de estudiantes de Derecho. Esta entrada explica la estructura técnica del laboratorio, evalúa las implicaciones jurídico‑profesionales y propone medidas doctrinales y prácticas para su uso responsable en la docencia y en la profesión. 1. Naturaleza técnica del laboratorio y herramientas desplegadas AI‑LEARN integra tres capas técnicas básicas: Interfaz de usuario educativa.  Plataformas basadas en web que orquestan escenarios procesales y de asesoramiento simulados. Asistentes legales conversacionales.  ...

  “Los oyentes invisibles”: cuándo un chatbot puede convertirse en una escucha ilícita Por  Profesor Santiago Carretero , Profesor Titular, Universidad Rey Juan Carlos — 18 de noviembre de 2025 1. Hechos esenciales y estado de la cuestión En 2025 han proliferado demandas que alegan que ciertos sistemas de asistencia al cliente o “chatbots” interceptan y registran comunicaciones sin el consentimiento expreso de los intervinientes, abriendo la puerta a reclamaciones bajo el Federal Wiretap Act y legislaciones estatales análogas. Al mismo tiempo, las aseguradoras cuestionan si tales riesgos quedan cubiertos por pólizas tradicionales de responsabilidad o por coberturas de ciberseguros. La cuestión práctica es doble: (i) ¿incurre el operador en una interceptación ilícita?, y (ii) ¿están las pérdidas indemnizables por las pólizas contratadas? 2. Marco jurídico aplicable (síntesis) En el sistema federal de Estados Unidos, la norma central es el  Federal Wiretap Act  (ECPA) ...

  Gobernanza global de la IA: responsabilidades, ética y derecho tras la mesa redonda de Pekín  Profesor Santiago Carretero — Profesor Titular, Universidad Rey Juan Carlos · Fecha: 17 de noviembre de 2025 El 17 de noviembre de 2025 se celebró en Pekín una mesa redonda internacional sobre gobernanza de la inteligencia artificial organizada por Peking University. El evento reunió a académicos y representantes del sector público y privado para debatir la interacción entre seguridad, innovación y responsabilidad jurídica en sistemas de IA. 1. Marco fáctico y relevancia jurídica La discusión pública y académica en Pekín subrayó tres constataciones convergentes: (i) la aceleración del despliegue de modelos generativos exige nuevos mecanismos de supervisión; (ii) existen diferencias notables entre modelos regulatorios nacionales que dificultan una respuesta uniforme; y (iii) la gobernanza efectiva pasa por combinar medidas técnicas, administrativas y normativas. Estas observaciones e...