La reforma de la Ley Europea de Inteligencia Artificial: la prohibición de los deepfakes sexuales y el refuerzo de la protección de la dignidad humana

Por Santiago Carretero, Profesor Titular de la Universidad Rey Juan Carlos

La regulación europea de la inteligencia artificial continúa evolucionando para responder a los riesgos que la rápida expansión de esta tecnología plantea para los derechos fundamentales. Cuando aún se está produciendo la aplicación progresiva del Reglamento (UE) 2024/1689, por el que se establecen normas armonizadas en materia de inteligencia artificial (AI Act), las instituciones europeas han acordado introducir modificaciones destinadas a reforzar la protección frente a uno de los fenómenos más preocupantes surgidos en los últimos años: la creación y difusión de imágenes y vídeos sexualmente explícitos generados mediante inteligencia artificial sin el consentimiento de las personas afectadas. La decisión supone un paso relevante porque evidencia que el legislador europeo concibe la regulación de la IA como un instrumento dinámico, capaz de adaptarse a nuevas amenazas tecnológicas que afectan directamente a la dignidad, la intimidad y la integridad moral de las personas.

Los denominados deepfakes constituyen contenidos audiovisuales generados o alterados mediante técnicas de inteligencia artificial que permiten recrear de forma extremadamente realista la apariencia, la voz o los movimientos de una persona. Aunque estas tecnologías poseen aplicaciones legítimas en ámbitos como la investigación, la industria cinematográfica o la formación, también han facilitado la aparición de nuevas modalidades de fraude, manipulación informativa y violencia digital. Especial preocupación suscitan los deepfakes de naturaleza sexual, en los que el rostro de una persona es incorporado artificialmente a imágenes o vídeos de contenido íntimo sin que exista consentimiento alguno. La facilidad con la que actualmente pueden generarse estos contenidos, unida a su rápida difusión en redes sociales y plataformas digitales, multiplica el daño reputacional, psicológico y profesional sufrido por las víctimas.

Desde una perspectiva jurídica, el problema trasciende ampliamente el ámbito de la protección de datos personales. La utilización no consentida de la imagen de una persona mediante inteligencia artificial compromete simultáneamente diversos derechos fundamentales reconocidos en la Carta de los Derechos Fundamentales de la Unión Europea, entre ellos la dignidad humana, el respeto a la vida privada y familiar, la protección de los datos personales, el derecho al honor y la tutela judicial efectiva. En muchos casos, además, concurren conductas susceptibles de integrar ilícitos civiles, administrativos e incluso penales, especialmente cuando los contenidos son difundidos con ánimo vejatorio, extorsivo o de explotación económica.

La reforma anunciada por la Unión Europea introduce una prohibición específica respecto de aquellos sistemas de inteligencia artificial destinados a generar imágenes sexuales falsas sin consentimiento, reforzando igualmente las obligaciones que recaen sobre los desarrolladores de modelos de inteligencia artificial de propósito general. Estos deberán implantar medidas razonables para impedir que sus tecnologías sean utilizadas para la producción de material ilícito, incluyendo contenidos relacionados con el abuso sexual infantil o con otras formas especialmente graves de explotación digital. Aunque el Reglamento europeo ya establecía obligaciones de transparencia respecto de determinados contenidos sintéticos, la nueva orientación normativa evidencia que la mera información al usuario resulta insuficiente cuando la tecnología puede utilizarse para vulnerar derechos fundamentales de manera sistemática.

Esta evolución normativa refleja uno de los principios esenciales que inspiran el modelo europeo de regulación de la inteligencia artificial: la innovación tecnológica únicamente resulta legítima cuando se desarrolla dentro del marco del Estado de Derecho y del respeto efectivo a los derechos fundamentales. Frente a modelos regulatorios más orientados hacia la autorregulación empresarial, la Unión Europea mantiene una concepción preventiva basada en la evaluación de riesgos, la responsabilidad de los proveedores y la supervisión pública. En este contexto, los deepfakes sexuales dejan de ser considerados únicamente un problema tecnológico para convertirse en una cuestión de protección de la persona y de preservación de los valores constitucionales que sustentan el espacio jurídico europeo.

Especial relevancia adquiere también la responsabilidad de los desarrolladores de modelos fundacionales o de propósito general. La experiencia acumulada durante los últimos meses ha demostrado que la capacidad de estos modelos para generar imágenes, audio y vídeo hiperrealistas aumenta considerablemente el riesgo de usos ilícitos cuando no existen mecanismos eficaces de control. De ahí que la Unión Europea avance hacia un modelo en el que la diligencia debida de los proveedores deja de limitarse al diseño técnico del sistema para extenderse también a la adopción de salvaguardas razonables que dificulten la producción de contenidos manifiestamente ilegales. Este planteamiento conecta directamente con el principio de responsabilidad tecnológica (accountability), cada vez más presente tanto en la legislación europea como en las recomendaciones internacionales sobre gobernanza de la inteligencia artificial.

Desde la perspectiva del Derecho español, estas modificaciones europeas previsiblemente influirán en el futuro desarrollo del Proyecto de Ley Orgánica para el buen uso y la gobernanza de la inteligencia artificial, actualmente en tramitación parlamentaria. La futura normativa nacional deberá articular mecanismos eficaces de coordinación entre la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA), la Agencia Española de Protección de Datos (AEPD) y las restantes autoridades competentes para garantizar una respuesta rápida frente a este tipo de vulneraciones. La eficacia de la regulación dependerá no sólo de la existencia de sanciones, sino también de procedimientos ágiles que permitan retirar con rapidez los contenidos ilícitos y reparar adecuadamente los daños ocasionados a las víctimas.

La reforma pone igualmente de manifiesto una realidad que probablemente caracterizará la evolución del Derecho digital durante la próxima década: la regulación de la inteligencia artificial no puede entenderse como un texto normativo cerrado, sino como un proceso permanente de adaptación a una tecnología extraordinariamente dinámica. Cada nuevo avance en las capacidades de los sistemas de IA genera riesgos inéditos que obligan al legislador a revisar continuamente el equilibrio entre innovación, libertad empresarial y protección de los derechos fundamentales. La experiencia de los deepfakes sexuales constituye un claro ejemplo de cómo el Derecho debe anticiparse a las nuevas formas de lesión de la dignidad humana antes de que su expansión produzca daños sociales irreparables.

En definitiva, la decisión adoptada por la Unión Europea confirma que la inteligencia artificial no constituye únicamente un desafío tecnológico, sino también un desafío jurídico y ético de primera magnitud. La protección de la dignidad, la intimidad y la identidad personal exige que los sistemas de IA incorporen desde su diseño garantías eficaces contra usos manifiestamente ilícitos. La evolución del AI Act demuestra que el modelo europeo apuesta por una inteligencia artificial centrada en la persona, donde la innovación debe desarrollarse al servicio de los derechos fundamentales y nunca a costa de ellos. La prohibición expresa de los deepfakes sexuales representa, en este sentido, un nuevo paso hacia una gobernanza tecnológica más responsable, preventiva y coherente con los valores constitucionales que definen el proyecto jurídico europeo.

---

Referencias (formato APA 7.ª edición)

• Parlamento Europeo y Consejo de la Unión Europea. (2024). Reglamento (UE) 2024/1689, por el que se establecen normas armonizadas en materia de inteligencia artificial (Ley de Inteligencia Artificial). Diario Oficial de la Unión Europea, L 1689.
• Unión Europea. (2000). Carta de los Derechos Fundamentales de la Unión Europea. Diario Oficial de las Comunidades Europeas, C 364.
• Comisión Europea. (2020). Libro Blanco sobre la inteligencia artificial: un enfoque europeo orientado a la excelencia y la confianza. Bruselas.
• European Union. (2026, 29 de junio). Propuesta de modificación del marco regulador europeo para reforzar la prohibición de los deepfakes sexuales y otras medidas de protección frente a usos ilícitos de la inteligencia artificial.
• Floridi, L. (2023). The Ethics of Artificial Intelligence: Principles, Challenges, and Opportunities. Oxford University Press.
• Ebers, M. (2024). AI Regulation in Europe: The AI Act and Beyond. Hart Publishing.