La huella jurídica de la inteligencia artificial: identificar el contenido sintético ya no es una opción

 

La huella jurídica de la inteligencia artificial: identificar el contenido sintético ya no es una opción

La inteligencia artificial generativa ha introducido una dificultad que afecta directamente a la confianza en la información: distinguir entre aquello que procede de una creación humana y aquello que ha sido generado o manipulado mediante sistemas automatizados. No estamos únicamente ante un problema tecnológico. Estamos ante una cuestión jurídica relacionada con la transparencia, la responsabilidad, la prueba y la protección de los derechos de terceros.

La Unión Europea ha decidido abordar esta cuestión mediante obligaciones específicas de transparencia. El Reglamento (UE) 2024/1689, conocido como Reglamento de Inteligencia Artificial, establece en su artículo 50 un conjunto de deberes dirigidos tanto a los proveedores de sistemas de IA como a quienes los utilizan profesionalmente.

La distinción es importante. El proveedor debe procurar que determinados contenidos sintéticos puedan identificarse como generados o manipulados artificialmente mediante mecanismos técnicamente adecuados, incluidos los formatos legibles por máquina. Por su parte, quienes utilizan sistemas de IA para generar o manipular imágenes, audios o vídeos que constituyan ultrafalsificaciones —deepfakes— deben revelar su carácter artificial en los términos previstos por el Reglamento.

No se trata, por tanto, de imponer una etiqueta indiscriminada a cualquier texto elaborado con ayuda de una herramienta de inteligencia artificial. El legislador europeo ha establecido obligaciones diferenciadas según la naturaleza del contenido, el sujeto responsable y el uso realizado. Esta precisión evita confundir la asistencia tecnológica en una actividad intelectual con la creación de contenidos sintéticos susceptibles de inducir a error sobre su origen o autenticidad.

El 2 de diciembre: una fecha que merece atención

La aplicación general del Reglamento comenzó el 2 de agosto de 2026, aunque su régimen es progresivo. Existe, además, una fecha próxima que tiene especial relevancia para los proveedores de sistemas generadores de contenido.

El artículo 112.4, en relación con el artículo 50.2 y el artículo 113 del Reglamento, establece que los proveedores de sistemas de IA que generen contenidos sintéticos de audio, imagen, vídeo o texto y que hubieran sido introducidos en el mercado antes del 2 de agosto de 2026 disponen hasta el 2 de diciembre de 2026 para adoptar las medidas necesarias de cumplimiento de las obligaciones de marcado y detección correspondientes.

Esta previsión no debe interpretarse como una suspensión general de las obligaciones de transparencia. Es una regla transitoria específica para determinados sistemas preexistentes. La diferencia entre la fecha de aplicación de una obligación y el plazo concedido para adaptar sistemas que ya estaban en el mercado resulta jurídicamente esencial.

La cuestión adquiere especial importancia en el ámbito empresarial, en los medios de comunicación, en la actividad publicitaria y en los servicios profesionales. La identificación del contenido artificial no puede descansar exclusivamente en la buena voluntad de quien lo publica. Debe existir una responsabilidad técnicamente articulada y jurídicamente exigible.

La autenticidad como problema de responsabilidad jurídica

La posibilidad de generar documentos, imágenes, grabaciones de voz o vídeos de apariencia realista obliga a revisar algunas categorías jurídicas tradicionales.

La autenticidad de un documento, la integridad de una grabación y la identificación de su autor no pueden darse por supuestas por el mero hecho de que un archivo tenga apariencia verosímil. La prueba digital exige atender a su origen, trazabilidad, integridad y contexto de producción.

En el ámbito judicial, esta circunstancia plantea una cuestión particularmente relevante: ¿qué valor debe atribuirse a una grabación o imagen cuando existe la posibilidad razonable de que haya sido generada o alterada mediante inteligencia artificial?

La respuesta no puede consistir en rechazar automáticamente todo contenido digital ni en aceptar su apariencia como garantía de autenticidad. Será necesario examinar las circunstancias de obtención, los mecanismos de verificación disponibles y las garantías procesales aplicables. La identificación técnica del contenido artificial puede contribuir a esa tarea, aunque no constituye por sí sola una prueba concluyente de autenticidad o falsedad.

También existe una dimensión relacionada con la responsabilidad civil. La utilización de contenidos sintéticos para atribuir declaraciones inexistentes a una persona, perjudicar su reputación o inducir a terceros a realizar determinadas actuaciones puede producir consecuencias jurídicas que deberán examinarse conforme a las normas aplicables en cada caso. La inteligencia artificial no crea un espacio de irresponsabilidad.

Transparencia y confianza en la sociedad digital

El verdadero alcance del artículo 50 no reside exclusivamente en la obligación de incorporar marcas técnicas o advertencias. Su importancia está en reconocer que la transparencia constituye una condición para el ejercicio responsable de la libertad de expresión, la protección de los consumidores y la preservación de la confianza pública.

Sin embargo, tampoco debemos convertir la identificación del contenido artificial en una presunción de falta de calidad, originalidad o legitimidad. Un texto generado mediante IA puede contener información correcta y un documento elaborado por una persona puede contener errores o falsedades. El origen tecnológico y el valor jurídico del contenido son cuestiones diferentes.

La transparencia debe permitir conocer las circunstancias relevantes de producción, no sustituir el análisis crítico de lo producido. En definitiva, la nueva regulación europea introduce una exigencia que va más allá de la tecnología: obliga a reconsiderar la relación entre autoría, autenticidad y responsabilidad. En una sociedad en la que resulta cada vez más sencillo producir contenidos aparentemente reales, la confianza no puede depender únicamente de lo que vemos o escuchamos. La huella de la inteligencia artificial debe ser reconocible cuando la ley lo exige. Pero, sobre todo, debe ser posible determinar quién responde por su utilización.

Referencia normativa fundamental: Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial, especialmente artículos 50, 112.4 y 113.

Propiedad intelectual y licencia de uso

© Santiago Carretero. Todos los derechos reservados, salvo los expresamente concedidos mediante la licencia que se indica a continuación.

Los artículos originales publicados en Blog de la IA Actual están sujetos a la licencia Creative Commons Atribución 4.0 Internacional (CC BY 4.0), disponible en https://creativecommons.org/licenses/by/4.0/deed.es.

Esta licencia permite copiar, distribuir, comunicar públicamente y adaptar los artículos, incluso con fines comerciales, siempre que se reconozca adecuadamente la autoría de Santiago Carretero, se identifique la fuente original mediante un enlace a la publicación, se incluya un enlace a la licencia y se indique si se han realizado modificaciones. En ningún caso podrá sugerirse que el autor respalda al usuario o el uso que este haga de la obra sin autorización expresa.

La licencia se aplica exclusivamente a los contenidos originales sobre los que el autor ostente los derechos necesarios para concederla. Quedan excluidos los textos, imágenes, documentos, citas, marcas y demás materiales de terceros, que se regirán por sus propias condiciones de uso y por la legislación aplicable. La licencia tampoco supone la renuncia a los derechos morales que correspondan al autor conforme a la legislación vigente.

La utilización de los contenidos implica la aceptación de las condiciones de la licencia indicada, sin perjuicio de los usos permitidos por la ley y de los derechos que no hayan sido objeto de concesión expresa.

Santiago Carretero Sánchez
Profesor Titular de Filosofía del Derecho, Universidad Rey Juan Carlos
Abogado del Ilustre Colegio de la Abogacía de Madrid

Comentarios

Entradas populares de este blog

ESQUEMA DETALLADO DE ESCRITO AJUSTADO AL MASC (PARA LETRADOS)

EL MODELO DE INTENTO DE CONCILIACIÓN QUE IMPONE LA LEY DE EFICIENCIA PROCESAL, PROPUESTA DEL ICAM

La responsabilidad jurídica por decisiones automatizadas en sistemas de IA