Principios Generales del Reglamento Europeo de IA

Documento técnico para aula virtual y blog jurídico

Introducción

Principios generales del Reglamento Europeo de IA

Santiago Carretero Sánchez, Profesor Titular de Filosofía del Derecho

(Reglamento (UE) 2024/1689, de 13 de junio)

El AI Act constituye la primera norma integral sobre inteligencia artificial en la Unión Europea. Su objetivo central es garantizar que el desarrollo y uso de la IA se haga de manera segura, transparente, ética y respetuosa con los derechos fundamentales. Para ello establece principios rectores que deben guiar a proveedores, usuarios y autoridades.

1. Respeto a los derechos fundamentales y al Derecho de la Unión

📌 Norma: art. 1.2 y considerandos 1 y 5. La IA debe diseñarse y aplicarse en plena conformidad con la Carta de Derechos Fundamentales de la UE, los Tratados y la normativa en vigor. El legislador deja claro que ninguna innovación justifica vulnerar la dignidad humana, la igualdad o la privacidad.

2. Enfoque basado en el riesgo

📌 Norma: art. 6 y ss. El Reglamento estructura sus obligaciones según el nivel de riesgo de cada sistema de IA:

Riesgo inaceptable → prohibición (ej. manipulación subliminal, identificación biométrica en tiempo real masiva).

Alto riesgo → requisitos estrictos (evaluación de conformidad, documentación técnica, registro en bases de datos de la UE).

Riesgo limitado → transparencia básica (ej. chatbots deben identificarse como IA).

Riesgo mínimo → uso libre (ej. filtros de spam).

Este enfoque flexible garantiza protección sin frenar la innovación.

3. Seguridad y fiabilidad técnica

📌 Norma: arts. 9 a 15. Los sistemas de IA deben ser seguros, robustos y precisos durante todo su ciclo de vida. Incluye exigencias de:

gestión de riesgos,

calidad de datos de entrenamiento,

documentación y trazabilidad,

supervisión humana,

resistencia a ataques o manipulaciones.

4. Transparencia y trazabilidad

📌 Norma: arts. 13 y 52. El usuario debe conocer que interactúa con una IA y disponer de información clara sobre sus capacidades y limitaciones. Además, los sistemas de alto riesgo deben dejar rastro en registros de actividad para facilitar auditorías.

5. Supervisión humana

📌 Norma: art. 14. La IA nunca puede funcionar como “caja negra” autónoma. Deben existir mecanismos que permitan la intervención humana significativa, especialmente en sistemas de alto riesgo (sanidad, justicia, empleo, seguridad).

6. Protección de datos y no discriminación

📌 Norma: art. 10 y considerandos 37-39. Los datos empleados para entrenar modelos deben ser representativos, relevantes y no sesgados. Se busca evitar que la IA genere decisiones discriminatorias por género, raza, edad o ideología. Además, la norma remite al cumplimiento estricto del Reglamento (UE) 2016/679 (RGPD).

7. Innovación y competitividad responsable

📌 Norma: arts. 54-55. Se fomenta la creación de sandboxes regulatorios (espacios de prueba supervisados por autoridades) para apoyar la innovación sin renunciar a la seguridad. Europa busca así liderar un modelo equilibrado: innovar, pero bajo valores democráticos.

8. Proporcionalidad y subsidiariedad en la aplicación

📌 Norma: art. 1.4 y considerandos 7 y 84. El Reglamento se aplica con un criterio de proporcionalidad: solo impone obligaciones en la medida necesaria para lograr seguridad jurídica y protección de derechos, evitando cargas desproporcionadas para las pymes y start-ups.

📘 Conclusión docente

El AI Act no es solo un marco jurídico, sino una carta de principios que convierte a la Unión Europea en referente mundial. Se articula sobre la idea de que la IA puede y debe desarrollarse en beneficio de la sociedad, pero siempre bajo control humano, con transparencia, seguridad técnica y respeto a los derechos fundamentales.

Bibliografía recomendada para profundizar

Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024 (DOUE L, 12.7.2024).

Veale, M., & Zuiderveen Borgesius, F. (2021). Demystifying the Draft EU Artificial Intelligence Act. Computer Law Review International.

European Parliamentary Research Service (2024). The EU Artificial Intelligence Act: Context and Impact.

Edwards, L. (2023). Understanding AI Regulation in Europe. Oxford University Press.

 Ficha editorial (Colex) — entrada del libro Humanismo tecnológico: justicia predictiva y derechos humanos en el futuro digital, Santiago Camilo Carretero Sánchez. colex.es

 Ficha comercial / ISBN (Dykinson / librerías) que confirma ISBN y datos editoriales. dykinson.comlibrerialexnova.com

 Texto oficial del Reglamento (UE) 2024/1689 (AI Act) — EUR-Lex / DOUE. EUR-Lex