Las paradojas del modelo europeo de regulación de la inteligencia artificial

Santiago Carretero Sánchez

Profesor Titular. Área de Filosofía del Derecho. Universidad Rey Juan Carlos 

La aprobación del Reglamento europeo de inteligencia artificial (AI Act) constituye uno de los intentos regulatorios más ambiciosos emprendidos hasta la fecha para encauzar jurídicamente el desarrollo de sistemas algorítmicos avanzados. La Unión Europea ha optado por un modelo normativo basado en el riesgo, mediante el cual las aplicaciones de inteligencia artificial se clasifican en función de su potencial impacto sobre los derechos fundamentales, la seguridad o el orden público.

Este enfoque regulatorio pretende conciliar dos objetivos jurídicamente complejos. Por una parte, garantizar un alto nivel de protección de los derechos fundamentales dentro del espacio europeo; por otra, favorecer la innovación tecnológica y el desarrollo de un mercado digital competitivo. Para ello, el legislador europeo ha diseñado un sistema de clasificación que distingue entre diferentes categorías de riesgo.

En primer lugar, el Reglamento identifica determinados usos de la inteligencia artificial considerados de riesgo inaceptable, que quedan directamente prohibidos. Se trata de aplicaciones que pueden afectar de manera grave a la dignidad humana o a los derechos fundamentales, como ciertos sistemas de manipulación conductual o determinados mecanismos de vigilancia masiva.

En segundo lugar, el marco normativo introduce la categoría de sistemas de alto riesgo, que comprende aplicaciones de inteligencia artificial utilizadas en ámbitos especialmente sensibles, como el acceso al empleo, los sistemas educativos, la administración pública, la seguridad o determinados servicios esenciales. En estos casos, el Reglamento impone obligaciones rigurosas a los desarrolladores y proveedores de tecnología, entre las que se incluyen evaluaciones de conformidad, mecanismos de trazabilidad, control humano significativo y requisitos de transparencia.

Finalmente, existe un tercer grupo de aplicaciones sometidas únicamente a obligaciones limitadas de información, especialmente cuando la interacción con sistemas automatizados puede afectar a la percepción del usuario, como ocurre en algunos sistemas conversacionales o herramientas de generación de contenido.

Desde un punto de vista doctrinal, este modelo basado en el riesgo ha sido valorado positivamente por permitir una regulación diferenciada que tiene en cuenta el impacto real de cada sistema tecnológico. Sin embargo, el debate jurídico reciente también ha puesto de relieve una serie de tensiones internas que revelan ciertas paradojas en el diseño del modelo regulatorio europeo.

Una de las principales dificultades deriva del propio ritmo de evolución de la inteligencia artificial. La tecnología algorítmica se desarrolla con una velocidad muy superior a la del proceso legislativo, lo que genera inevitablemente un desfase entre las categorías normativas previstas por el legislador y las nuevas aplicaciones que surgen en la práctica. Esta circunstancia puede provocar problemas interpretativos relevantes y exigir una constante adaptación de los criterios regulatorios.

Otra cuestión problemática se refiere a la delimitación jurídica de los sistemas de alto riesgo. La inclusión de una determinada aplicación dentro de esta categoría activa un conjunto de obligaciones regulatorias muy exigentes. Sin embargo, la identificación de qué sistemas deben considerarse realmente de alto riesgo no siempre resulta sencilla. Las fronteras tecnológicas son difusas y muchas aplicaciones pueden evolucionar rápidamente, alterando su impacto real sobre los derechos fundamentales o la seguridad de las personas.

A estas dificultades se añade una dimensión institucional que también resulta particularmente relevante. El éxito del modelo regulatorio europeo dependerá en gran medida de la capacidad de los Estados miembros para aplicar de manera homogénea el Reglamento. Si las autoridades nacionales desarrollan interpretaciones divergentes o mecanismos de control diferentes, podría producirse una fragmentación normativa dentro del propio mercado interior europeo. Tal situación afectaría tanto a la seguridad jurídica de los operadores económicos como al funcionamiento coherente del ecosistema digital europeo.

En una perspectiva más amplia, el AI Act refleja también una determinada concepción del papel del Derecho frente a la innovación tecnológica. La Unión Europea ha optado por situar la protección de los derechos fundamentales en el centro de la regulación, estableciendo salvaguardias jurídicas destinadas a evitar usos abusivos o desproporcionados de la inteligencia artificial. Este enfoque contrasta con otros modelos regulatorios más flexibles, en los que la prioridad se sitúa en el estímulo de la innovación tecnológica incluso a costa de una menor intervención normativa.

Este contraste plantea interrogantes relevantes acerca del equilibrio entre protección jurídica e innovación tecnológica. Mientras que el modelo europeo aspira a convertirse en un estándar global de regulación responsable, algunos analistas advierten del riesgo de que una regulación excesivamente compleja pueda ralentizar el desarrollo tecnológico dentro del propio espacio europeo.

En definitiva, el Reglamento europeo de inteligencia artificial representa uno de los experimentos jurídicos más significativos de nuestro tiempo. Su aplicación práctica permitirá comprobar si resulta posible construir un marco normativo capaz de equilibrar adecuadamente la innovación tecnológica, la seguridad jurídica y la protección efectiva de los derechos fundamentales en la sociedad digital contemporánea.

---

Referencia (formato APA)

Rangone, N. (2026, marzo 10). The paradoxes of the European Union’s AI regulation. The Regulatory Review.