La identificación obligatoria de los contenidos generados por inteligencia artificial: un nuevo paradigma de transparencia jurídica en la Unión Europea

Santiago Carretero Sánchez
Profesor Titular de Filosofía del Derecho. Universidad Rey Juan Carlos

Abogado del Ilustre Colegio de la Abogacía de Madrid

La transparencia como presupuesto de la confianza digital

La inteligencia artificial generativa ha transformado radicalmente la forma en que se crean y difunden textos, imágenes, audios y vídeos. La capacidad de estos sistemas para producir contenidos prácticamente indistinguibles de los elaborados por personas plantea importantes desafíos jurídicos relacionados con la autenticidad de la información, la seguridad del tráfico jurídico, la protección de los derechos fundamentales y la confianza de los ciudadanos en el entorno digital. Frente a este escenario, la Unión Europea ha dado un paso decisivo al comenzar la aplicación efectiva de las obligaciones de transparencia previstas en el Reglamento (UE) 2024/1689, conocido como AI Act, entre las que destaca el deber de identificar determinados contenidos generados o manipulados mediante inteligencia artificial.

No se trata de una mera exigencia técnica o de una recomendación ética. La identificación de estos contenidos constituye un auténtico deber jurídico cuyo objetivo es garantizar que los destinatarios de la información conozcan cuándo interactúan con una creación artificial y cuándo lo hacen con una producción humana. La transparencia deja así de ser un principio programático para convertirse en un elemento estructural de la gobernanza europea de la inteligencia artificial.

La importancia de esta obligación trasciende el ámbito tecnológico. Afecta directamente al Derecho de la información, al Derecho civil, al Derecho penal, a la protección de datos personales, a la propiedad intelectual e incluso al Derecho procesal, pues la identificación de un contenido generado por IA puede resultar determinante para valorar su autenticidad y fuerza probatoria en un procedimiento judicial.

El AI Act y la obligación de informar sobre el origen artificial del contenido

Las disposiciones del AI Act que comienzan a desplegar efectos prácticos establecen que determinados sistemas de inteligencia artificial deberán informar claramente cuando una persona esté interactuando con una IA. Del mismo modo, quienes generen imágenes, vídeos o audios sintéticos capaces de inducir a error deberán incorporar mecanismos que permitan identificar su origen artificial, salvo en los supuestos específicamente previstos por la norma.

Esta regulación responde a una idea esencial: el ciudadano tiene derecho a conocer si la información que recibe ha sido elaborada por una persona o por un sistema automatizado. La finalidad no consiste en limitar el desarrollo tecnológico, sino en preservar la autonomía de la voluntad, evitar prácticas engañosas y reforzar la confianza en los entornos digitales.

Especial relevancia adquiere esta obligación respecto de los denominados deepfakes. La creciente calidad técnica de estas producciones dificulta distinguir entre imágenes auténticas y manipuladas, incrementando el riesgo de fraude, suplantación de identidad, manipulación política, desinformación y vulneración de derechos de la personalidad. El etiquetado exigido por el legislador europeo constituye, por ello, un instrumento preventivo destinado a reducir estos riesgos antes de que produzcan efectos jurídicos o sociales de difícil reparación.

Consecuencias para la responsabilidad jurídica y la actividad probatoria

La identificación de los contenidos generados mediante inteligencia artificial posee una dimensión jurídica que probablemente adquirirá mayor relevancia conforme aumenten los litigios relacionados con estas tecnologías. En los procedimientos judiciales será cada vez más frecuente discutir el origen de documentos, imágenes o grabaciones audiovisuales cuya autenticidad resulte controvertida.

Desde esta perspectiva, la existencia de mecanismos normalizados de identificación facilitará la valoración probatoria por parte de jueces y tribunales, contribuyendo a determinar la fiabilidad de la evidencia digital y la posible existencia de manipulaciones. La obligación de transparencia no elimina el problema de la falsificación tecnológica, pero introduce elementos objetivos que favorecen la trazabilidad de los contenidos y fortalecen la seguridad jurídica.

Asimismo, el incumplimiento de estas obligaciones podrá constituir un elemento relevante para apreciar responsabilidades administrativas derivadas del AI Act e, incluso, responsabilidades civiles cuando la ocultación del origen artificial provoque daños patrimoniales o morales. En determinados supuestos especialmente graves tampoco puede descartarse la concurrencia de ilícitos penales relacionados con la falsedad documental, la estafa informática, la usurpación de identidad o los delitos contra el honor.

Todo ello evidencia que la transparencia algorítmica deja de ser una cuestión meramente tecnológica para convertirse en una garantía transversal del Estado de Derecho en el entorno digital.

Una nueva cultura jurídica de la autenticidad digital

La entrada en aplicación de estas obligaciones representa el comienzo de una nueva etapa en la regulación europea de la inteligencia artificial. Durante décadas, el Derecho ha construido mecanismos destinados a garantizar la autenticidad de documentos, firmas o comunicaciones. La expansión de la inteligencia artificial obliga ahora a extender esa misma lógica de autenticidad al universo de los contenidos digitales generados automáticamente.

Esta evolución también exige nuevas competencias para juristas, jueces, fiscales, abogados, notarios, registradores y responsables de cumplimiento normativo. La identificación de contenidos creados mediante IA pasará previsiblemente a formar parte de las diligencias ordinarias de comprobación documental y de valoración de la prueba electrónica.

Las universidades desempeñan igualmente un papel esencial. La formación jurídica ya no puede limitarse al conocimiento tradicional de las normas, sino que debe incorporar el análisis de los sistemas algorítmicos, de los mecanismos de transparencia y de las nuevas obligaciones derivadas de la regulación europea. La alfabetización jurídica en inteligencia artificial constituye una condición imprescindible para preservar la seguridad jurídica en una sociedad crecientemente automatizada.

Reflexión final

La obligación de identificar los contenidos generados por inteligencia artificial representa uno de los avances más relevantes del AI Act en materia de confianza digital. Su finalidad no es obstaculizar la innovación, sino garantizar que el progreso tecnológico se desarrolle dentro de un marco de transparencia, responsabilidad y respeto a los derechos fundamentales.

En los próximos años, la eficacia de esta regulación dependerá no solo de la actuación de las autoridades supervisoras, sino también de la capacidad de empresas, administraciones públicas y operadores jurídicos para integrar estos principios en sus sistemas de gobernanza. La transparencia sobre el origen de los contenidos digitales dejará de ser una buena práctica para convertirse en un requisito esencial de la seguridad jurídica europea. En este contexto, el AI Act inaugura una nueva etapa en la que la autenticidad de la información y la confianza en los entornos digitales pasan a ocupar un lugar central dentro del Estado de Derecho.

Referencias bibliográficas (APA 7.ª ed.)

• Parlamento Europeo y Consejo. (2024). Reglamento (UE) 2024/1689, por el que se establecen normas armonizadas en materia de inteligencia artificial (AI Act). Diario Oficial de la Unión Europea, L, 12 de julio de 2024.
• European Commission. (2026). Guidelines on the AI Act transparency obligations for providers and deployers of general-purpose AI systems. Comisión Europea.
• Floridi, L. (2023). The Ethics of Artificial Intelligence: Principles, Challenges and Opportunities. Oxford University Press.