Cuando una imagen puede mentir: los deepfakes entran en el Derecho de la prueba

Por Santiago Carretero Sánchez, Profesor Titular de Filosofía del Derecho, Universidad Rey Juan Carlos, Abogado del Ilustre Colegio de Abogados de Madrid

Durante décadas, el Derecho ha atribuido a las imágenes, las grabaciones de vídeo y los documentos audiovisuales una apariencia de realidad que, aunque nunca fue absoluta, resultaba razonablemente operativa. Una fotografía podía ser discutida; una grabación podía ser manipulada; un documento podía ser falsificado. Pero la tecnología exigía normalmente una intervención técnica que dejaba algún rastro y cuya detección podía resultar posible mediante determinados procedimientos periciales. La inteligencia artificial generativa está alterando radicalmente ese escenario. Hoy es posible fabricar una imagen, una voz o un vídeo que reproduzca con extraordinaria fidelidad a una persona, un acontecimiento o una situación que nunca existió. El problema jurídico ya no consiste solamente en determinar si una prueba digital ha sido manipulada, sino en asumir que su apariencia de autenticidad ha dejado de constituir, por sí misma, una garantía suficiente de autenticidad.

La cuestión adquiere una dimensión especialmente relevante en la Unión Europea porque el artículo 50 del Reglamento (UE) 2024/1689, conocido como AI Act, ha comenzado a aplicarse en materia de transparencia. Desde el 2 de agosto de 2026, los responsables del despliegue de determinados sistemas de IA que generen o manipulen contenidos audiovisuales constitutivos de deepfakes deben revelar que ese contenido ha sido generado o manipulado artificialmente. La Comisión Europea ha precisado además que esa información debe resultar clara, distinguible y perceptible para la persona expuesta al contenido, de manera que no basta con introducir una señal técnica que solamente pueda ser detectada por una máquina.

La importancia jurídica de esta regulación reside en que el legislador europeo está introduciendo una idea que puede terminar teniendo consecuencias mucho más profundas de las que inicialmente parece: la procedencia artificial de un contenido comienza a convertirse en una circunstancia jurídicamente relevante que debe ser conocida por quien lo recibe. La etiqueta no demuestra que el contenido sea falso, pero sí informa de que su apariencia de realidad procede, total o parcialmente, de un sistema artificial. Es una distinción fundamental. El Derecho no está diciendo que todo contenido generado por IA sea falso; está estableciendo que determinadas formas de generación o manipulación deben ser transparentes para evitar que la persona receptora confunda lo artificial con lo auténticamente acontecido.

Del documento falso a la realidad sintética

La falsificación documental tradicional partía de un documento que pretendía representar una realidad preexistente. El deepfake introduce una dificultad diferente: puede fabricar la propia realidad representada. Una persona puede aparecer pronunciando unas palabras que nunca pronunció; puede parecer encontrarse en un lugar en el que nunca estuvo; una voz puede atribuirle declaraciones inexistentes. El objeto potencial de la falsificación deja así de ser exclusivamente el soporte documental y pasa a afectar a la propia representación de los hechos.

Esta transformación tiene consecuencias inmediatas para el Derecho probatorio. Una grabación de vídeo ya no puede ser valorada únicamente atendiendo a su contenido aparente. Será necesario preguntarse por su procedencia, integridad, contexto de obtención, sistema utilizado para generarla o conservarla y mecanismos empleados para acreditar que no ha sufrido alteraciones relevantes. El principio de libre valoración de la prueba no desaparece, pero adquiere una nueva dimensión tecnológica: la apariencia de realidad deberá convivir con la necesidad de verificar la autenticidad digital.

El problema resulta especialmente delicado cuando el contenido audiovisual se incorpora a un procedimiento judicial. Una parte podría aportar una grabación aparentemente inequívoca y la otra alegar que se trata de un deepfake. En ese momento, la discusión procesal ya no se limitará a qué ocurrió, sino que deberá incorporar una cuestión previa: ¿podemos afirmar que el objeto presentado como representación del hecho corresponde realmente a un hecho ocurrido? La inteligencia artificial convierte así la autenticidad en una cuestión probatoria autónoma.

La etiqueta jurídica no resuelve el problema

Sería, sin embargo, un error considerar que la obligación europea de etiquetar los deepfakes resuelve por sí misma el problema. La etiqueta proporciona transparencia, pero no garantiza necesariamente la verdad. Un contenido correctamente identificado como generado artificialmente puede ser utilizado legítimamente en una obra artística, en una sátira o en una producción audiovisual. Precisamente por ello, el propio artículo 50 contempla reglas específicas para contenidos pertenecientes a obras evidentemente artísticas, creativas, satíricas o ficticias.

La cuestión jurídicamente interesante aparece cuando el deepfake se presenta en un contexto en el que el receptor puede razonablemente entender que está ante una representación auténtica de la realidad. Las directrices europeas señalan que para determinar cuándo existe una falsificación profunda deben considerarse elementos como el grado de semejanza, el mensaje sustantivo, el contexto de utilización y las expectativas de la audiencia. La definición jurídica, por tanto, no depende exclusivamente de la tecnología empleada, sino también de la capacidad del contenido para inducir a error respecto de su autenticidad o veracidad.

Esta aproximación resulta particularmente interesante porque introduce en la regulación tecnológica una categoría tradicionalmente jurídica: el contexto. La misma manipulación audiovisual puede tener una relevancia completamente diferente si aparece dentro de una película, en una obra satírica, en una campaña comercial o en una información presentada como acontecimiento real. El Derecho comienza así a distinguir no solamente entre contenido humano y contenido artificial, sino entre distintos usos sociales y jurídicos de ese contenido.

El nuevo problema de la prueba digital

La consecuencia más profunda puede encontrarse en el ámbito judicial. Si la tecnología permite fabricar evidencias visuales o sonoras extraordinariamente convincentes, el Derecho tendrá que desarrollar mecanismos cada vez más sofisticados de autenticación. La firma electrónica, los metadatos, las cadenas de custodia digitales, las técnicas de hash, los sistemas de procedencia del contenido y las herramientas de detección de manipulaciones adquieren una importancia creciente.

Pero tampoco sería prudente trasladar la confianza desde la imagen hacia el detector de IA. Los sistemas de detección pueden equivocarse, y una tecnología generativa que evoluciona rápidamente puede hacer insuficientes los mecanismos de detección diseñados para generaciones anteriores de modelos. El problema jurídico no consiste, por tanto, en sustituir una confianza ciega en la imagen por una confianza ciega en el algoritmo detector. Consiste en construir un sistema plural de garantías de autenticidad.

En este punto aparece una cuestión particularmente relevante para la teoría del Derecho: ¿qué ocurre cuando dos sistemas técnicos ofrecen resultados contradictorios sobre la autenticidad de una prueba? La respuesta no puede ser exclusivamente tecnológica. Será necesario determinar qué estándares de fiabilidad deben exigirse, quién debe asumir la carga de acreditar la autenticidad, qué valor debe concederse a una pericial algorítmica y hasta dónde puede llegar el juez en la valoración de herramientas cuyo funcionamiento puede resultar difícilmente comprensible.

Una nueva cultura jurídica de la autenticidad

La aparición de los deepfakes obliga, en definitiva, a modificar una premisa cultural que durante mucho tiempo ha acompañado al Derecho: ver no equivale necesariamente a conocer. Una imagen puede ser técnicamente perfecta y jurídicamente engañosa. Una voz puede resultar indistinguible de la de una persona real y, sin embargo, ser completamente artificial. Un vídeo puede mostrar un acontecimiento que jamás sucedió.

Por ello, la gran aportación del nuevo régimen europeo de transparencia quizá no sea simplemente obligar a colocar una etiqueta sobre determinados contenidos. Su verdadera importancia está en introducir una nueva exigencia jurídica de trazabilidad de la realidad digital. El ciudadano debe poder conocer cuándo se encuentra ante una representación generada o manipulada artificialmente, y el sistema jurídico debe disponer de mecanismos que permitan valorar qué significado tiene esa circunstancia.

El reto futuro será todavía mayor. Cuando la generación artificial alcance un nivel en el que la detección técnica resulte cada vez más difícil, el Derecho deberá decidir qué considera suficiente para acreditar la autenticidad de una prueba digital. Y aquí aparece una cuestión que trasciende claramente al AI Act: si una imagen puede ser fabricada con absoluta apariencia de realidad, la autenticidad ya no podrá presumirse por la mera existencia de la imagen; tendrá que ser jurídicamente acreditada.

La inteligencia artificial no está destruyendo el valor de la prueba digital. Está obligando al Derecho a definir de nuevo por qué una prueba merece ser considerada auténtica.

Referencias

Comisión Europea. (2026, 20 de julio). Directrices sobre las obligaciones de transparencia para los proveedores e implementadores de sistemas de IA. Comisión Europea.

Unión Europea. (2024). Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial (Ley de Inteligencia Artificial). Diario Oficial de la Unión Europea.