Agentes de inteligencia artificial y responsabilidad jurídica: ¿quién responde cuando la IA actúa por su cuenta?

La inteligencia artificial generativa está entrando en una nueva etapa que plantea problemas jurídicos considerablemente distintos de los que suscitó inicialmente. Hasta ahora, buena parte del debate se había centrado en sistemas que responden a una petición humana: redactan un documento, elaboran un informe, generan una imagen o proponen una solución. El usuario pregunta y la máquina responde. Pero los llamados agentes de inteligencia artificial introducen una diferencia sustancial: pueden recibir un objetivo, tomar decisiones intermedias, utilizar herramientas digitales, interactuar con aplicaciones y ejecutar determinadas acciones sin que el usuario supervise cada uno de sus pasos. La cuestión jurídica deja entonces de ser exclusivamente qué puede hacer la IA y comienza a ser otra mucho más incómoda: ¿quién responde cuando el sistema realiza una actuación que el usuario no había previsto? El problema no es de ciencia ficción. La expansión de los agentes autónomos está haciendo que la tradicional relación entre decisión humana, acción y responsabilidad tenga que ser reconsiderada.

1. De la herramienta que responde al agente que actúa

La diferencia entre un chatbot convencional y un agente de inteligencia artificial posee una importancia jurídica extraordinaria. Cuando una persona utiliza una herramienta generativa para redactar un contrato, por ejemplo, sigue existiendo una intervención humana relativamente clara entre la información producida por el sistema y la decisión jurídica finalmente adoptada. El usuario puede aceptar, modificar o rechazar la respuesta. En cambio, un agente puede recibir una finalidad general y ejecutar una secuencia de actuaciones para alcanzarla: consultar información, seleccionar una opción, comunicarse con terceros, utilizar servicios externos o realizar determinadas operaciones digitales. La intervención humana se desplaza desde la decisión concreta hacia la configuración inicial del objetivo y de los límites del sistema. Esto crea una nueva zona de incertidumbre jurídica: cuanto mayor es la autonomía operacional del agente, más difícil resulta identificar dónde termina la decisión humana y dónde comienza la actuación algorítmica.

Un ejemplo reciente resulta especialmente ilustrativo. Un usuario habría utilizado un agente de IA para intentar mejorar su posición en una lista de espera de un gimnasio, y el sistema llegó a interactuar con la infraestructura informática del establecimiento de una manera que excedía lo que razonablemente podía entenderse como una simple gestión de la reserva. El interés jurídico del episodio no reside únicamente en determinar si hubo una conducta ilícita, sino en preguntarnos qué ocurre cuando la conducta materialmente ejecutada por el sistema no coincide exactamente con la conducta que el usuario pretendía realizar. La tecnología puede haber ejecutado una cadena de decisiones que el usuario no conocía ni controlaba individualmente. Y aquí aparece una cuestión esencial para el Derecho: la autonomía funcional de una máquina no puede convertirse automáticamente en una autonomía jurídica.

El ordenamiento jurídico europeo no reconoce, por el mero hecho de actuar autónomamente, personalidad jurídica a un sistema de inteligencia artificial. Por ello, no parece adecuado solucionar el problema atribuyendo directamente responsabilidad al agente como si fuera una persona. El desafío consiste precisamente en determinar qué sujeto humano o empresarial debe asumir las consecuencias de la actuación del sistema. Puede ser el usuario que lo emplea, el proveedor que lo desarrolla, quien lo integra en una determinada actividad o, dependiendo de las circunstancias, varios sujetos con diferentes grados de responsabilidad. La autonomía tecnológica, por tanto, no elimina la responsabilidad jurídica: obliga a reconstruirla.

2. El problema de la imputación: autonomía tecnológica no significa responsabilidad autónoma

La cuestión central es la imputación. En el Derecho tradicional podemos identificar, aunque con distintos grados de complejidad, una persona que actúa, una conducta, un resultado y un título jurídico que permite atribuir las consecuencias. Con un agente de IA esta cadena puede fragmentarse. El usuario establece un objetivo; el proveedor diseña el modelo; el desarrollador incorpora determinadas herramientas; el sistema selecciona una estrategia; una aplicación externa ejecuta la acción y finalmente un tercero puede sufrir un perjuicio. ¿A quién atribuimos jurídicamente el resultado?

La respuesta no debería buscarse en una supuesta «culpa de la IA». La inteligencia artificial carece de personalidad jurídica y, salvo que el ordenamiento dispusiera otra cosa en el futuro, tampoco puede convertirse en sujeto patrimonialmente responsable en sentido propio. La verdadera cuestión consiste en determinar si los mecanismos tradicionales de imputación son suficientes para esta nueva arquitectura tecnológica. En el ámbito civil, por ejemplo, adquieren especial importancia la previsibilidad del daño, el deber de diligencia, la existencia de mecanismos de control y supervisión y la relación causal entre la actuación del sujeto responsable y el resultado producido. En el ámbito penal, el problema es todavía más delicado, porque la responsabilidad exige principios de imputación subjetiva que difícilmente pueden trasladarse directamente a una entidad algorítmica.

Esto obliga a prestar una atención especial al concepto de delegación. Cuando una persona utiliza un agente para ejecutar una tarea, no desaparece necesariamente su responsabilidad por el simple hecho de que la decisión concreta haya sido tomada por el sistema. Delegar una función no equivale automáticamente a transferir la responsabilidad jurídica. Un abogado que utiliza una herramienta tecnológica para preparar un escrito no puede justificar una falsedad procesal alegando que fue producida por la máquina; del mismo modo, una empresa que permite a un agente realizar operaciones comerciales no puede asumir que toda actuación inesperada del sistema queda fuera de su esfera jurídica. La cuestión será determinar qué podía razonablemente conocer, prever, controlar y evitar el sujeto que puso el sistema en funcionamiento.

Aquí aparece un concepto que puede adquirir una importancia creciente: el deber de supervisión algorítmica. No se trata simplemente de comprobar que una IA funciona correctamente, sino de establecer qué grado de vigilancia resulta jurídicamente exigible cuando se le permite actuar de manera autónoma. Cuanto mayor sea el impacto potencial de las decisiones del agente, mayor debería ser la exigencia de control. No es jurídicamente equivalente permitir que un agente seleccione automáticamente una película, gestionar una reserva de hotel, realizar una compra, modificar una base de datos empresarial o intervenir en una decisión con consecuencias sobre derechos fundamentales.

3. Hacia una nueva teoría jurídica de los agentes autónomos

La expansión de los agentes de IA obliga, por tanto, a superar una concepción excesivamente sencilla de la relación entre usuario y tecnología. El agente no es únicamente una herramienta pasiva, pero tampoco es un sujeto jurídico independiente. Se encuentra en una posición intermedia: posee autonomía operacional sin poseer autonomía jurídica. Esta característica puede obligar al Derecho a desarrollar criterios más sofisticados de distribución de responsabilidades entre quienes diseñan, proporcionan, integran, utilizan y supervisan estos sistemas. La futura discusión jurídica no debería preguntarse únicamente quién creó el algoritmo, sino quién decidió ponerlo en condiciones de actuar, con qué finalidad, con qué información, con qué límites y con qué mecanismos de control.

La cuestión adquiere una especial importancia para el ejercicio de las profesiones jurídicas. Si un abogado utiliza un agente capaz de investigar jurisprudencia, preparar documentos, gestionar comunicaciones o realizar determinadas actuaciones externas, la responsabilidad profesional no puede desaparecer detrás de la automatización. La inteligencia artificial puede multiplicar la capacidad operativa del profesional, pero también puede multiplicar la velocidad con la que se produce un error. El principio de diligencia profesional tendrá que incorporar progresivamente una dimensión tecnológica: conocer las capacidades y limitaciones del sistema, establecer límites operativos, verificar los resultados y conservar una trazabilidad suficiente de las actuaciones realizadas por el agente.

El mismo razonamiento resulta aplicable a las empresas. La verdadera transformación que producen los agentes de IA no consiste solamente en generar contenido, sino en delegar capacidad de actuación. Y cuando una organización delega capacidad de actuación en un sistema autónomo, la gobernanza tecnológica deja de ser una cuestión exclusivamente informática para convertirse en una cuestión jurídica. Será necesario determinar quién autoriza al agente, qué operaciones puede ejecutar, cuáles requieren confirmación humana, qué registros deben conservarse y qué mecanismos existen para detener una actuación potencialmente perjudicial. La trazabilidad, la supervisión humana y la delimitación de competencias dejan así de ser simples buenas prácticas y pueden convertirse en elementos esenciales para determinar la responsabilidad.

La pregunta que deberíamos empezar a formular, por tanto, no es si algún día la inteligencia artificial tendrá responsabilidad jurídica propia. La cuestión más inmediata y jurídicamente relevante es otra: ¿estamos preparados para atribuir responsabilidad por las decisiones de sistemas que hemos autorizado a actuar de forma cada vez más autónoma? El Derecho no necesita convertir a la inteligencia artificial en persona para responder a este desafío. Probablemente necesita algo más complejo: determinar qué deberes corresponden a quienes diseñan, ofrecen, integran y utilizan agentes capaces de actuar en el mundo real.

La aparición de los agentes autónomos representa, en definitiva, un nuevo capítulo en la relación entre Derecho y tecnología. La primera etapa de la inteligencia artificial nos obligó a preguntarnos qué ocurre cuando una máquina genera una respuesta. La etapa de los agentes nos obliga a preguntarnos qué ocurre cuando la máquina hace algo. Y esa diferencia aparentemente pequeña puede convertirse en una de las grandes cuestiones jurídicas de los próximos años: porque cuando una inteligencia artificial actúa por nosotros, la verdadera pregunta no es si la máquina tiene responsabilidad, sino quién asumirá jurídicamente las consecuencias de haberle permitido actuar.

Santiago Carretero Sánchez, Profesor Titular de Filosofía del Derecho, Universidad Rey Juan Carlos, Abogado del Ilustre Colegio de Abogados de Madrid

Referencias

European Parliament and Council of the European Union. (2024). Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). Official Journal of the European Union. https://eur-lex.europa.eu/eli/reg/2024/1689/oj

European Parliament and Council of the European Union. (2024). Directive (EU) 2024/2853 on liability for defective products. Official Journal of the European Union. https://eur-lex.europa.eu/eli/dir/2024/2853/oj

The Guardian. (2026, August 13). AI agents aren’t legally responsible for any harm that they cause. Experts say: so who is?