El deber de identificar los contenidos generados por inteligencia artificial: una nueva garantía jurídica frente a la desinformación digital

Por Santiago Carretero Sánchez
Profesor Titular de Universidad de Derecho
Universidad Rey Juan Carlos
blogdelaiaactual.blogspot.com

La expansión de la inteligencia artificial generativa está obligando a replantear algunos de los principios clásicos que han presidido históricamente el Derecho de la información y la tutela de los derechos fundamentales. La capacidad de los sistemas de inteligencia artificial para generar textos, imágenes, vídeos o audios prácticamente indistinguibles de los elaborados por seres humanos ha abierto un nuevo escenario normativo en el que la transparencia adquiere una importancia decisiva. No se trata únicamente de una cuestión tecnológica, sino de una exigencia jurídica estrechamente vinculada con la protección de la confianza pública, la lucha contra la desinformación y la garantía del derecho de los ciudadanos a recibir una información veraz en una sociedad democrática.

En este contexto, la Comisión Europea ha publicado recientemente un Código de Buenas Prácticas sobre marcado y etiquetado de contenidos generados mediante inteligencia artificial, anticipando la aplicación efectiva de las obligaciones de transparencia previstas en el artículo 50 del Reglamento Europeo de Inteligencia Artificial (AI Act). La iniciativa constituye una manifestación concreta del principio de responsabilidad y pretende evitar que los denominados deepfakes o los contenidos sintéticos puedan confundirse con producciones auténticas, generando efectos perjudiciales sobre la opinión pública, la reputación de las personas o incluso el normal funcionamiento de los procesos democráticos. La identificación del origen artificial de determinados contenidos deja así de ser una mera recomendación ética para convertirse progresivamente en una auténtica obligación jurídica.

Desde una perspectiva doctrinal, esta exigencia representa una nueva manifestación del principio de transparencia algorítmica que inspira buena parte del Derecho europeo de la inteligencia artificial. La Unión Europea parece haber optado por una estrategia regulatoria basada en la confianza, entendiendo que el desarrollo tecnológico sólo será socialmente aceptable si los ciudadanos conocen cuándo están interactuando con sistemas automatizados o cuándo consumen contenidos creados por estos sistemas. La transparencia se configura, en consecuencia, como una garantía instrumental para la efectividad de otros derechos fundamentales, entre ellos la libertad de información, la protección de datos personales, la dignidad humana y el libre desarrollo de la personalidad. De este modo, la identificación de contenidos sintéticos se integra en una concepción más amplia del constitucionalismo digital europeo, caracterizado por situar a la persona y a sus derechos en el centro del proceso de innovación tecnológica.

No obstante, las dificultades prácticas derivadas de esta obligación no son menores. La identificación fiable de contenidos sintéticos plantea problemas técnicos considerables y obliga a los proveedores de sistemas de inteligencia artificial a desarrollar mecanismos eficaces de marcado digital y trazabilidad. Asimismo, subsisten interrogantes relevantes acerca del alcance de estas obligaciones respecto de determinados usos artísticos, científicos o educativos. El equilibrio entre innovación tecnológica y seguridad jurídica volverá a constituir, previsiblemente, uno de los grandes desafíos interpretativos que acompañarán al despliegue efectivo del AI Act durante los próximos años. En realidad, la cuestión de fondo consiste en determinar hasta qué punto la transparencia puede convertirse en un elemento estructural de la gobernanza algorítmica sin comprometer la competitividad y la capacidad innovadora del ecosistema europeo.

En definitiva, la exigencia de etiquetar e identificar los contenidos generados por inteligencia artificial constituye uno de los ejemplos más significativos de cómo el Derecho contemporáneo está evolucionando hacia nuevos mecanismos de protección de la confianza en el entorno digital. Más allá de las cuestiones puramente técnicas, lo que se encuentra en juego es la preservación de las condiciones que permiten a los ciudadanos desenvolverse en un ecosistema informativo fiable y compatible con los valores democráticos sobre los que se asienta el proyecto europeo. El éxito de estas medidas dependerá no sólo de su eficacia técnica, sino también de la capacidad de las instituciones para generar una auténtica cultura de transparencia que fortalezca la legitimidad social de la inteligencia artificial y contribuya a reforzar la confianza de los ciudadanos en los procesos de transformación digital.

Referencias bibliográficas

European Commission. (2026). Code of Practice on Marking and Labelling AI-Generated Content. Brussels: European Commission.

European Union. (2024). Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). Official Journal of the European Union, L 2024/1689.

Veale, M., & Borgesius, F. Z. (2021). Demystifying the Draft EU Artificial Intelligence Act. Computer Law Review International, 22(4), 97-112. https://doi.org/10.9785/cri-2021-220402

Floridi, L. (2023). The Ethics of Artificial Intelligence: Principles, Challenges, and Opportunities. Oxford University Press.