IA, Supervisión Algorítmica y Nuevo Control Jurídico

 

IA, Supervisión Algorítmica y Nuevo Control Jurídico

La aceleración regulatoria en materia de inteligencia artificial está desplazando el centro de gravedad del Derecho tecnológico. La cuestión ya no es solo cómo regular la IA, sino cómo integrarla en las garantías jurídicas tradicionales: supervisión administrativa, responsabilidad civil, estándares probatorios y control ex ante.

1. Calado normativo: del cumplimiento formal al control técnico efectivo

La entrada en vigor del Reglamento de IA de la UE ha introducido un modelo de conformidad técnica obligatoria para sistemas de “alto riesgo”. Esto supone que el Derecho ya no opera únicamente mediante prohibiciones o autorizaciones, sino mediante la exigencia de arquitecturas de cumplimiento: trazabilidad, gestión de datos, evaluación del ciclo de vida y auditoría interna.

España, además, avanza en el mecanismo nacional de supervisión. La futura Autoridad Española de IA se perfila con competencias claras en vigilancia algorítmica, investigaciones administrativas y potestad sancionadora, alineada con los artículos 63 a 69 del Reglamento europeo.

2. Calado doctrinal: un nuevo concepto de diligencia tecnológica

La doctrina está evolucionando hacia un estándar reforzado de diligencia profesional aplicable a empresas, administraciones y operadores jurídicos que usen IA. La idea central: usar IA implica asumir deberes de comprensión funcional mínima. No basta contratar un modelo; debe comprenderse su lógica, límites y sesgos potenciales.

Este planteamiento está generando una reinterpretación del artículo 1902 del Código Civil: el uso de IA sin controles técnicos suficientes constituye negligencia. En paralelo, varias audiencias provinciales empiezan a exigir trazabilidad algorítmica como requisito probatorio cuando una decisión automatizada tiene efectos jurídicos.

3. Interés jurídico actual: impacto en la litigación y en la actividad pública

Los litigios sobre decisiones automatizadas están aumentando: denegaciones automatizadas en consumo, asignación de riesgos en aseguradoras y cribados algorítmicos en empleo público o privado. Cada uno de estos supuestos exige una revisión pericial especializada en modelos, algo inédito en la práctica jurídica tradicional.

En la Administración, la integración de IA generativa en procedimientos internos obliga a reforzar el principio de no delegación y el control de legalidad de las propuestas automatizadas. La jurisprudencia empieza a admitir impugnaciones basadas en falta de explicación razonada cuando la resolución depende de un sistema algorítmico opaco.

4. Una línea de fondo: el Derecho como auditor tecnológico

La transformación en curso muestra que la IA no desplaza al Derecho; lo expande. Lo obliga a operar sobre nuevos objetos: modelos, datos, arquitecturas y métricas. El jurista del presente ya no interpreta únicamente normas, sino sistemas. Y la clave está en articular garantías sólidas en un entorno tecnológico en continua evolución.

por Santiago Carretero Sánchez, Profesor Titular de Filosofía del Derecho, URJC