El Reglamento Europeo de Inteligencia Artificial como Derecho preventivo del riesgo algorítmico (Guía AESIA)

 

El Reglamento Europeo de Inteligencia Artificial como Derecho preventivo del riesgo algorítmico

El Reglamento (UE) 2024/1689, de 13 de junio de 2024, representa el primer marco normativo integral destinado a regular la inteligencia artificial en la Unión Europea. Su rasgo esencial consiste en que no disciplina la tecnología en sí misma considerada, sino los usos jurídicamente relevantes de los sistemas de IA, adoptando un enfoque funcional que permite su adaptación a la evolución técnica futura. La norma responde así a la necesidad de conciliar innovación tecnológica, protección de los derechos fundamentales y seguridad jurídica en el mercado interior.

El Reglamento se construye sobre un modelo de regulación basado en el riesgo, sustituyendo la lógica uniforme por una gradación normativa en función del potencial lesivo de cada sistema. En el nivel más alto se sitúan los usos prohibidos de la inteligencia artificial, aquellos que por su propia naturaleza resultan incompatibles con los valores esenciales de la Unión, como la manipulación subliminal del comportamiento humano, la explotación de colectivos vulnerables o determinadas formas de identificación biométrica masiva. En un segundo nivel se encuentran los sistemas de alto riesgo, permitidos pero sometidos a un régimen jurídico intensivo de control, especialmente cuando se aplican en ámbitos sensibles como la educación, el empleo, la justicia, la migración, el acceso a servicios esenciales o las infraestructuras críticas.

Junto a estos, el Reglamento impone obligaciones específicas de transparencia a los sistemas que interactúan directamente con personas o generan contenidos sintéticos, exigiendo que se informe de manera clara cuando se trata de una interacción con inteligencia artificial o cuando el contenido ha sido producido artificialmente. Los sistemas de menor riesgo quedan sujetos únicamente a deberes generales de alfabetización y buenas prácticas, mientras que determinados algoritmos tradicionales quedan excluidos del ámbito material del Reglamento.

Desde el punto de vista institucional, el modelo de gobernanza se articula mediante un sistema multinivel de autoridades de vigilancia del mercado, autoridades notificantes y organismos de evaluación de la conformidad, coordinados a nivel europeo. Este entramado reproduce, en el ámbito algorítmico, las técnicas clásicas del Derecho administrativo de la seguridad de productos, proyectándolas sobre una nueva categoría de bienes jurídicos: los sistemas de decisión automatizada.

El Reglamento identifica con precisión a los sujetos responsables en la cadena de valor de la inteligencia artificial —proveedor, responsable del despliegue, importador y distribuidor—, atribuyendo las obligaciones en función de la función desempeñada y no únicamente de la titularidad formal del sistema. De especial relevancia resulta la previsión conforme a la cual quien modifique sustancialmente un sistema o altere su finalidad prevista pasa a asumir jurídicamente la condición de proveedor, evitando así desplazamientos artificiales de responsabilidad.

En el ámbito del sector público, la norma introduce un deber reforzado de protección de los derechos fundamentales mediante la exigencia de una Evaluación de Impacto específica previa al despliegue de sistemas de alto riesgo. Esta evaluación complementa las obligaciones derivadas del Reglamento General de Protección de Datos y consolida un principio de prudencia institucional en el uso de tecnologías algorítmicas por parte de los poderes públicos.

El núcleo dogmático del Reglamento reside en el sistema de obligaciones impuesto a los sistemas de alto riesgo. Dicho sistema se articula en torno a la gestión continua de riesgos, la gobernanza y calidad de los datos, la documentación técnica, la conservación de registros, la transparencia, la supervisión humana, la precisión, la solidez técnica, la ciberseguridad, la evaluación de la conformidad y la vigilancia posterior a la comercialización. Estas exigencias configuran un modelo de cumplimiento normativo permanente que acompaña al sistema de inteligencia artificial durante todo su ciclo de vida.

En definitiva, el Reglamento Europeo de Inteligencia Artificial inaugura una nueva etapa del Derecho tecnológico europeo caracterizada por la prevención del daño, la centralidad de los derechos fundamentales y la responsabilidad jurídica de los operadores. No se limita a regular un sector económico, sino que construye un modelo jurídico de inteligencia artificial centrado en la persona y sometido a control público. De este modo, la inteligencia artificial deja de ser un fenómeno exclusivamente técnico para integrarse plenamente en el sistema jurídico como objeto de regulación autónoma, dando lugar a un auténtico Derecho europeo del riesgo algorítmico.

Santiago Carretero, Universidad Rey Juan Carlos