AI Act: alerta desde la CNIL sobre lagunas regulatorias en la IA

 AI Act: alerta desde la CNIL sobre lagunas regulatorias en la IA

 

Por Santiago Carretero, Profesor de Filosofía del Derecho, Universidad Rey Juan Carlos

 

Un alto directivo de la CNIL, la autoridad francesa encargada de la protección de datos personales, ha emitido una advertencia crucial acerca de posibles vacíos legales en el Reglamento Europeo conocido como AI Act, cuyo objetivo es regular el desarrollo y uso de sistemas de inteligencia artificial dentro de la Unión Europea.

 

El directivo ha subrayado la necesidad urgente de precisar el alcance y las obligaciones que impone el AI Act, en particular sobre dos aspectos fundamentales: la responsividad automatizada y la verificabilidad del entrenamiento con datos sensibles.

 

La responsividad automatizada se refiere a la capacidad de ciertos sistemas de inteligencia artificial para interactuar, responder o tomar decisiones sin intervención humana directa. Esta característica, si no está claramente regulada, puede generar importantes riesgos en términos de responsabilidad legal, transparencia y protección de derechos fundamentales.

 

Por otro lado, la verificabilidad del entrenamiento con datos sensibles —aquellos relacionados con categorías especiales bajo el GDPR, como origen racial, salud, opiniones políticas o creencias religiosas— es un elemento crítico para asegurar que los sistemas de IA no reproduzcan sesgos discriminatorios o vulneren la privacidad de los individuos. La CNIL alerta que, sin mecanismos robustos de auditoría y supervisión, el cumplimiento normativo podría quedar comprometido.

 

Estos vacíos legales podrían derivar en incertidumbre jurídica para los operadores que implementan IA, dificultando la fiscalización y control efectivos, y en última instancia, comprometiendo la protección de los derechos de los ciudadanos.

 

La advertencia de la CNIL, por tanto, enfatiza la necesidad de que los legisladores y reguladores europeos concreten los términos y requisitos del AI Act, definiendo claramente las obligaciones en materia de transparencia, trazabilidad y responsabilidad en el uso de IA, con especial atención a los sistemas que procesan datos sensibles.

 

Este debate es fundamental para que el AI Act cumpla con su objetivo de garantizar un entorno digital confiable y respetuoso con los derechos fundamentales, evitando que las lagunas regulatorias se conviertan en puntos ciegos que perjudiquen a los usuarios y la sociedad en general.