Cuando la IA actúa por nosotros: el nuevo problema jurídico de los agentes autónomos
Cuando la IA actúa por nosotros: el nuevo problema jurídico de los agentes autónomos
Del chatbot al agente: un cambio jurídicamente relevante
Durante los últimos años hemos aprendido a convivir con sistemas de inteligencia artificial que responden preguntas, redactan documentos, resumen información o generan contenidos. El escenario comienza a ser diferente cuando la IA deja de limitarse a proporcionar una respuesta y pasa a ejecutar una secuencia de acciones para alcanzar un objetivo. Un agente de IA puede recibir una finalidad, utilizar distintas herramientas, consultar información, tomar decisiones intermedias y ejecutar determinadas actuaciones sin que una persona tenga que autorizar individualmente cada paso. Este cambio tecnológico tiene una consecuencia jurídica importante: el problema deja de ser exclusivamente qué información proporciona la máquina y pasa a ser qué ocurre cuando la máquina actúa.
Pensemos en un agente utilizado en una organización para gestionar determinadas comunicaciones, seleccionar documentación, concertar servicios, realizar determinadas operaciones digitales o interactuar con otros sistemas. Si el resultado es incorrecto, perjudicial o contrario a las instrucciones recibidas, la pregunta jurídica inmediata es aparentemente sencilla: ¿quién responde? Pero detrás de ella aparecen cuestiones mucho más complejas. Puede existir una responsabilidad relacionada con el diseño del sistema, otra con su configuración, otra con la calidad de los datos utilizados y otra con la decisión de permitir que opere con un determinado grado de autonomía. La autonomía técnica del sistema, por tanto, no equivale a autonomía jurídica. El agente puede ejecutar una acción sin intervención humana inmediata, pero eso no significa que se convierta en sujeto de responsabilidad jurídica.
Este punto resulta especialmente importante para el jurista. La aparición de agentes autónomos no obliga, al menos por sí misma, a reconocer una nueva personalidad jurídica a la inteligencia artificial. El Derecho puede afrontar el problema mediante las categorías existentes de responsabilidad, imputación, deber de diligencia, supervisión, contractualidad y organización empresarial, adaptándolas a un contexto tecnológico en el que la intervención humana se produce antes, durante y después de la actuación automatizada.
La supervisión humana deja de ser una declaración y se convierte en una obligación jurídica
El Reglamento (UE) 2024/1689, conocido como Reglamento de Inteligencia Artificial, ofrece una referencia fundamental para comprender esta transformación. Su artículo 14 establece que los sistemas de IA de alto riesgo deben diseñarse de manera que puedan ser supervisados eficazmente por personas físicas durante su utilización. La supervisión debe ser proporcional, entre otros factores, al riesgo y al nivel de autonomía del sistema. Además, las personas encargadas de supervisarlo deben poder comprender sus capacidades y limitaciones, detectar anomalías y, cuando sea necesario, no utilizar el sistema, ignorar su resultado o revertirlo.
La importancia de esta regulación está en que el Derecho europeo no parece aceptar como suficiente una fórmula puramente formal del tipo «hay una persona responsable». La supervisión debe ser real y efectiva. El responsable del despliegue de un sistema de alto riesgo debe asignar esa supervisión a personas con competencia, formación y autoridad suficientes, y debe vigilar el funcionamiento del sistema. Asimismo, cuando los registros estén bajo su control, deberá conservarlos durante el período establecido por la normativa, con carácter general durante al menos seis meses.
Esto permite formular una primera regla jurídica para los agentes de IA: cuanto mayor sea la autonomía operativa del sistema y mayor sea el riesgo de sus actuaciones, mayor debe ser la capacidad humana de control, intervención y reconstrucción de lo sucedido. La cuestión no consiste simplemente en saber qué hizo la IA, sino en poder determinar qué instrucciones recibió, con qué información trabajó, qué decisiones intermedias adoptó, qué posibilidades de intervención tenía la persona responsable y por qué finalmente se produjo el resultado dañoso.
Aquí aparece una cuestión especialmente relevante para la práctica jurídica: la trazabilidad. Si un agente ejecuta una cadena de actuaciones y produce un resultado que genera consecuencias jurídicas, será necesario poder reconstruir esa cadena. La documentación técnica, los registros de actividad, las instrucciones proporcionadas al sistema y las decisiones humanas relacionadas con su configuración pueden adquirir así una importancia probatoria creciente. El expediente de la actuación algorítmica puede convertirse en un elemento esencial para determinar posteriormente dónde se produjo el error y quién tenía capacidad efectiva para evitarlo.
La verdadera cuestión: quién debía controlar la decisión de la IA
El debate sobre los agentes autónomos debería evitar, por tanto, una simplificación frecuente: atribuir directamente a la inteligencia artificial la responsabilidad por sus errores. Una máquina puede ser la causa tecnológica inmediata de un resultado, pero la responsabilidad jurídica exige identificar qué persona o entidad tenía el deber de prevenir, controlar o corregir ese resultado.
Podemos encontrarnos con varios niveles. El proveedor puede responder por determinadas deficiencias relacionadas con el sistema que ha puesto en el mercado; el responsable del despliegue puede asumir obligaciones relacionadas con su utilización, supervisión y organización; y una persona concreta puede haber intervenido en su configuración, autorización o utilización. El propio Reglamento de IA contempla responsabilidades a lo largo de la cadena de valor y establece obligaciones específicas para proveedores y responsables del despliegue.
Por eso, el verdadero problema jurídico de los agentes autónomos no consiste en decidir si debemos «culpar a la IA». La cuestión más precisa es otra: determinar cómo debe distribuirse la responsabilidad cuando una decisión humana ha sido delegada técnicamente en un sistema capaz de ejecutar autónomamente una cadena de actuaciones. El Derecho tendrá que prestar cada vez más atención a la arquitectura de esa delegación: qué podía hacer el agente, qué no podía hacer, qué instrucciones recibió, qué controles existían, quién podía detenerlo y qué medidas se adoptaron para evitar un resultado lesivo.
La inteligencia artificial puede actuar autónomamente desde el punto de vista técnico; la responsabilidad, sin embargo, continúa necesitando una estructura jurídica de imputación. Esta diferencia entre autonomía tecnológica y responsabilidad jurídica será, probablemente, una de las cuestiones centrales del Derecho de la IA en los próximos años.
Referencias bibliográficas — APA 7.ª edición
- Unión Europea. (2024). Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial. Diario Oficial de la Unión Europea.
- Comisión Europea. (2026, 20 de julio). Guidelines on transparency obligations for providers and deployers of AI systems. European Commission.
- Comisión Europea. (2026, 27 de julio). AI Omnibus enters into force. European Commission.
Comentarios
Publicar un comentario