España regula el futuro: inteligencia artificial entre la Ética y el Derecho

  España regula el futuro: inteligencia artificial entre la ética y el Derecho

Santiago Carretero Sánchez, Universidad Rey Juan Carlos

En un contexto de acelerado desarrollo tecnológico, la inteligencia artificial (IA) plantea desafíos regulatorios, éticos y jurídicos que exigen respuestas coordinadas a nivel nacional e internacional. España, en consonancia con el enfoque europeo, ha dado pasos relevantes en esta dirección. Dos noticias recientes ilustran este impulso: la propuesta de una gobernanza multilateral de la IA y la aprobación de un anteproyecto de ley para su uso ético en el ámbito nacional.

1. España y la gobernanza multilateral de la inteligencia artificial

El ministro de Asuntos Exteriores, Unión Europea y Cooperación, José Manuel Albares, ha defendido públicamente la necesidad de una gobernanza multilateral de la IA, subrayando que solo mediante la cooperación internacional será posible garantizar un desarrollo ético, justo y humanista de esta tecnología disruptiva. En su intervención, Albares insistió en que los retos que plantea la IA –como la opacidad algorítmica, la discriminación automatizada, o la posible vulneración de derechos fundamentales– deben ser abordados de forma conjunta por los Estados, en foros multilaterales como Naciones Unidas, la OCDE o la Unión Europea.

Esta posición enlaza directamente con el enfoque promovido por la Unesco, que en 2021 aprobó la Recomendación sobre la Ética de la Inteligencia Artificial, y con la reciente aprobación del AI Act por parte de las instituciones de la Unión Europea (Reglamento sobre la Inteligencia Artificial), que establece una estructura normativa pionera a nivel mundial basada en el principio de precaución, la protección de los derechos fundamentales y un enfoque basado en el riesgo.

España se posiciona así como un actor proactivo en la defensa de una IA centrada en el ser humano, en línea con los principios del humanismo tecnológico que inspiran tanto el Libro Blanco sobre la IA de la Comisión Europea como la Estrategia Nacional de Inteligencia Artificial (ENIA).

2. Un anteproyecto de ley para un uso ético e inclusivo de la IA en España

En paralelo al enfoque internacional, el Gobierno de España ha aprobado un anteproyecto de ley sobre el uso ético de la inteligencia artificial, con el objetivo de adaptar el ordenamiento jurídico español al marco regulatorio europeo y establecer mecanismos de garantía específicos en el ámbito nacional.

Este anteproyecto, impulsado por el Ministerio de Asuntos Económicos y Transformación Digital, incorpora principios fundamentales como la transparencia algorítmica, la no discriminación, la rendición de cuentas, y el control humano significativo sobre los sistemas de IA, alineándose con el enfoque del AI Act y ampliando su operatividad en el contexto español. Entre sus novedades, se prevé la creación de un Consejo Estatal para la Gobernanza Ética de la IA, con funciones consultivas y de supervisión, y la incorporación de evaluaciones de impacto algorítmico obligatorias para determinados usos de alto riesgo.

Además, se contempla una especial protección para colectivos vulnerables y un marco para la auditoría algorítmica, garantizando la trazabilidad y explicabilidad de los sistemas utilizados por las administraciones públicas y los operadores privados.

3. Reflexiones jurídicas y líneas de análisis

Estas iniciativas ofrecen una oportunidad para reflexionar sobre varios aspectos clave desde la perspectiva del Derecho:

• ¿Qué lugar ocupa la soft law en la regulación de la IA? ¿Hasta qué punto las recomendaciones éticas y los marcos voluntarios pueden traducirse en exigencias jurídicas vinculantes?
• ¿Qué mecanismos garantizan la efectiva supervisión y control de los sistemas de IA? ¿Son suficientes las auditorías y evaluaciones de impacto o se requieren nuevos modelos institucionales de supervisión tecnológica?
• ¿Cómo se articula el principio de proporcionalidad en un sistema basado en el riesgo? ¿Qué garantías deben exigirse en el uso de sistemas de IA de alto impacto, por ejemplo, en justicia predictiva, vigilancia biométrica o selección de personal?

El anteproyecto de ley español y la apuesta por una gobernanza multilateral representan avances significativos hacia un ecosistema normativo de la IA que respete los principios del Estado de Derecho, garantice los derechos fundamentales y promueva una innovación tecnológica ética, inclusiva y sostenible.