Cuando la IA deja una decisión: el nuevo problema jurídico de la trazabilidad

 

Cuando la IA deja una decisión: el nuevo problema jurídico de la trazabilidad

Santiago Carretero Sánchez
Profesor Titular de Filosofía del Derecho, Universidad Rey Juan Carlos

Hay una cuestión que empieza a adquirir una importancia jurídica mayor de la que inicialmente podría parecer: ¿podemos reconstruir el camino que ha seguido una inteligencia artificial hasta producir un determinado resultado? La pregunta es distinta de saber si una IA ha intervenido. También es distinta de determinar quién responde cuando se produce un daño. Lo verdaderamente relevante es saber si, una vez producido el resultado, existe una explicación suficientemente documentada de cómo se llegó hasta él.

Esta cuestión aparece en ámbitos muy diferentes. Puede tratarse de una decisión administrativa en la que un sistema ha contribuido a valorar un expediente; de un documento jurídico elaborado con ayuda de una herramienta generativa; de una imagen o una voz artificialmente producida; o de un agente capaz de ejecutar varias operaciones sin que el usuario supervise cada una de ellas. En todos estos casos existe un elemento común: la dificultad de reconstruir jurídicamente el proceso que conduce desde la información inicial hasta el resultado final. El problema, por tanto, ya no es únicamente el de la transparencia. Es el de la trazabilidad.

De la transparencia a la trazabilidad

El Reglamento europeo de Inteligencia Artificial ha comenzado a introducir obligaciones que apuntan precisamente hacia una mayor posibilidad de identificar la intervención de sistemas artificiales. El artículo 50 establece, entre otras cuestiones, obligaciones de información cuando una persona interactúa directamente con determinados sistemas de IA y medidas destinadas a facilitar la identificación de determinados contenidos generados o manipulados artificialmente. Estas obligaciones son aplicables desde el 2 de agosto de 2026. Pero identificar que una IA ha intervenido no significa necesariamente poder explicar cómo ha intervenido.

Esta diferencia tiene consecuencias jurídicas importantes. Una etiqueta puede informar de que una imagen ha sido generada artificialmente, pero no explica qué material se utilizó, qué instrucciones determinaron el resultado, qué intervención humana existió o qué modificaciones se realizaron posteriormente. Del mismo modo, saber que una Administración utilizó una herramienta de inteligencia artificial no permite conocer, por sí solo, qué peso tuvo esa herramienta en la decisión finalmente adoptada.

La trazabilidad exige algo más: conservar una huella suficientemente comprensible del proceso.

En el ámbito jurídico, esto puede afectar directamente a cuestiones clásicas como la motivación, la prueba, la posibilidad de contradicción, la tutela judicial efectiva o la atribución de responsabilidad. Una decisión difícil de reconstruir es también una decisión más difícil de discutir jurídicamente.

El expediente de la IA

Esta cuestión resulta especialmente visible en la Administración pública.

Si una herramienta de inteligencia artificial interviene en la clasificación de expedientes, en la detección de determinados patrones o en la elaboración de una propuesta de resolución, el expediente administrativo del futuro podría necesitar algo más que los documentos tradicionales. Deberá permitir conocer, al menos en los casos relevantes, qué sistema intervino, con qué finalidad, qué información recibió, qué resultado produjo y cuál fue la intervención efectiva del empleado público responsable.

No significa convertir cada expediente en un archivo técnico incomprensible. Significa justamente lo contrario: hacer jurídicamente inteligible una intervención tecnológica que puede resultar decisiva.

La cuestión adquiere todavía mayor importancia cuando la IA actúa mediante agentes capaces de encadenar operaciones. En estos casos, el resultado final puede ser consecuencia de una sucesión de actuaciones parcialmente automatizadas. Si el Derecho pretende exigir responsabilidad, supervisión o motivación, deberá poder determinar dónde comenzó y dónde terminó la intervención humana.

Aquí aparece una idea que probablemente tendrá un recorrido considerable: la trazabilidad puede convertirse en una condición práctica de la responsabilidad jurídica de la IA.

No porque toda actuación tecnológica deba quedar registrada hasta el último detalle, sino porque no parece razonable exigir responsabilidades sobre decisiones cuyo proceso de formación resulta imposible de reconstruir.

Una nueva garantía jurídica

La trazabilidad no debería entenderse solamente como una obligación técnica impuesta a los desarrolladores. Puede convertirse progresivamente en una auténtica garantía jurídica. En el ámbito administrativo, puede servir para comprobar cómo se formó una decisión. En el Derecho de autor, para reconstruir qué contenidos fueron utilizados y cómo se incorporaron a determinados procesos. En los sistemas generativos, para identificar la procedencia artificial de determinados resultados. Y en los agentes autónomos, para determinar qué actuaciones fueron ejecutadas, bajo qué instrucciones y con qué grado de supervisión.

La cuestión de fondo es sencilla, aunque sus consecuencias no lo sean: si una inteligencia artificial interviene en una actuación jurídicamente relevante, debe existir algún modo razonable de reconstruir esa intervención cuando sea necesario controlar su legalidad. El Derecho lleva siglos desarrollando mecanismos para reconstruir decisiones humanas: expedientes, actas, contratos, registros, documentos, testimonios y pruebas. La inteligencia artificial introduce ahora una nueva dificultad: parte del proceso de decisión puede desarrollarse en sistemas que no se expresan mediante las categorías documentales tradicionales. Quizá uno de los próximos grandes debates jurídicos no consista, por tanto, en decidir si debemos confiar o desconfiar de la inteligencia artificial. Consistirá en algo más concreto: qué debe quedar registrado para que una decisión en la que intervino una inteligencia artificial pueda seguir siendo jurídicamente explicable.

Y esa pregunta afecta tanto a quien desarrolla la tecnología como a quien la utiliza, pero también, y de manera especial, a quien tiene que responder ante un ciudadano, un tribunal o una autoridad de control.

Referencias

European Commission. (2026, July 20). Guidelines on transparency obligations for providers and deployers of AI systems. European Commission.

European Commission. (2026, July 27). Quick facts: Transparency rules for AI systems. European Commission.

European Parliament & Council of the European Union. (2024). Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). Official Journal of the European Union, L.