La consolidación del primer Convenio internacional vinculante sobre Inteligencia Artificial, democracia y derechos fundamentales: un nuevo paradigma jurídico global

Santiago Carretero Sánchez
Profesor Titular de la Universidad Rey Juan Carlos · Abogado

La aprobación y consolidación institucional del primer Convenio internacional vinculante sobre Inteligencia Artificial, Derechos Humanos, Democracia y Estado de Derecho representa uno de los hitos jurídicos más relevantes de la historia reciente de la regulación tecnológica. Nos encontramos ante un fenómeno normativo de extraordinaria trascendencia porque, por primera vez, una organización internacional articula un marco jurídico obligatorio destinado a controlar el impacto de la inteligencia artificial sobre los derechos fundamentales y sobre la propia arquitectura democrática de los Estados contemporáneos.

Hasta ahora, gran parte de las iniciativas regulatorias sobre inteligencia artificial se habían movido en el terreno de la ética, de las recomendaciones técnicas o de las declaraciones de principios. Existían abundantes documentos de soft law, guías de buenas prácticas y códigos de conducta, pero no verdaderos instrumentos internacionales con eficacia vinculante. El paso dado ahora por el Consejo de Europa, con el respaldo institucional de la Unión Europea, supone un cambio de paradigma. La inteligencia artificial deja de ser únicamente una cuestión tecnológica o económica para convertirse definitivamente en una materia de constitucionalismo global.

La relevancia jurídica de este Convenio deriva precisamente de su objeto material. No regula únicamente la eficiencia tecnológica ni la competitividad empresarial, sino que coloca en el centro del debate la protección de la dignidad humana, la preservación de los sistemas democráticos y la defensa efectiva de los derechos fundamentales frente a sistemas automatizados capaces de influir en decisiones públicas y privadas de enorme trascendencia. La norma parte de una premisa fundamental: la inteligencia artificial no es neutral desde el punto de vista jurídico ni social, pues puede condicionar el acceso al empleo, la concesión de créditos, la actuación policial, la selección administrativa o incluso el funcionamiento de la justicia.

Uno de los aspectos más significativos del Convenio reside en la consolidación del principio de supervisión humana efectiva. Este principio implica que ninguna decisión automatizada con capacidad de afectar de forma sustancial a derechos fundamentales puede quedar completamente desligada del control humano. Jurídicamente, ello supone una reafirmación del principio clásico de responsabilidad, incompatible con modelos de automatización absoluta en los que el operador humano desaparece del proceso decisorio. El Derecho contemporáneo parece rechazar así la idea de una delegación plena de soberanía en sistemas algorítmicos.

Especial trascendencia adquiere igualmente el deber de transparencia algorítmica. La opacidad de muchos modelos de inteligencia artificial generativa y predictiva había generado un problema creciente de indefensión jurídica. Si un ciudadano desconoce cómo se adopta una decisión automatizada que le perjudica, difícilmente puede ejercer con plenitud su derecho de defensa o su derecho a la tutela judicial efectiva. El Convenio introduce así una exigencia estructural de trazabilidad, explicabilidad y conocimiento mínimo del funcionamiento de los sistemas de IA utilizados por poderes públicos y entidades privadas.

Desde la perspectiva del Derecho constitucional europeo, el Convenio se conecta directamente con la evolución doctrinal del Tribunal Europeo de Derechos Humanos y con la Carta de Derechos Fundamentales de la Unión Europea. En realidad, puede afirmarse que la norma constituye una prolongación digital de los grandes principios clásicos del constitucionalismo europeo: dignidad humana, igualdad, proporcionalidad, interdicción de la arbitrariedad y control jurisdiccional efectivo. Lo verdaderamente novedoso es que dichos principios se proyectan ahora sobre arquitecturas algorítmicas complejas capaces de generar decisiones autónomas o semiautónomas.

La importancia geopolítica del texto tampoco debe infravalorarse. Mientras otros modelos regulatorios internacionales apuestan prioritariamente por la innovación tecnológica o por la supremacía económica, el modelo europeo intenta construir una tercera vía basada en el humanismo jurídico digital. Frente a sistemas más desregulados o dominados por intereses puramente comerciales, Europa trata de configurar una gobernanza tecnológica compatible con el Estado de Derecho y con la centralidad de la persona.

En este contexto, el Convenio posee además una evidente dimensión preventiva. La experiencia reciente demuestra que la inteligencia artificial puede facilitar fenómenos extremadamente lesivos: manipulación informativa masiva, vigilancia biométrica indiscriminada, discriminación algorítmica, creación de perfiles ideológicos, alteración de procesos electorales o generación de contenidos falsos de apariencia real. La preocupación jurídica ya no se limita al daño individual, sino que alcanza directamente a la estabilidad institucional de las democracias contemporáneas.

Particularmente relevante será el impacto de este nuevo marco internacional sobre las administraciones públicas. Los poderes públicos europeos se encuentran inmersos en procesos acelerados de digitalización y automatización. Sin embargo, el Convenio recuerda que la eficacia administrativa nunca puede justificar la vulneración de derechos fundamentales. La utilización de sistemas automatizados por parte del Estado deberá quedar sometida a controles reforzados de legalidad, proporcionalidad y revisión humana efectiva.

También el ámbito judicial experimentará consecuencias profundas. La utilización creciente de herramientas predictivas, asistentes de redacción automatizada o sistemas de análisis documental plantea interrogantes inéditos acerca de la independencia judicial y de la motivación de las resoluciones. El Convenio parece consolidar una idea esencial: la inteligencia artificial puede asistir técnicamente al operador jurídico, pero no sustituir la función jurisdiccional inherente al juez humano como garante último de los derechos fundamentales.

Desde un punto de vista doctrinal, el nuevo escenario obliga igualmente a revisar categorías jurídicas tradicionales. Conceptos como responsabilidad civil, imputación subjetiva, causalidad o diligencia profesional deberán reinterpretarse ante daños producidos por sistemas parcialmente autónomos. El gran debate jurídico de los próximos años girará precisamente en torno a la delimitación de responsabilidades entre desarrolladores, empresas proveedoras, operadores y administraciones públicas.

La aprobación de este Convenio evidencia además una transformación cultural de enorme alcance. La inteligencia artificial ya no es contemplada exclusivamente como instrumento de progreso económico, sino también como potencial fuente de riesgos sistémicos para los derechos fundamentales y para la democracia misma. En consecuencia, el Derecho abandona posiciones meramente reactivas para adoptar una función anticipatoria y estructural de control tecnológico.

La gran cuestión jurídica del siglo XXI no será únicamente cómo desarrollar inteligencia artificial, sino cómo preservar la centralidad de la persona y del Estado de Derecho en sociedades crecientemente automatizadas.

En definitiva, el Convenio internacional sobre Inteligencia Artificial, Democracia y Derechos Humanos constituye mucho más que un simple instrumento técnico de regulación sectorial. Representa el nacimiento de una nueva fase del constitucionalismo digital europeo e internacional. Su trascendencia futura dependerá de la capacidad de los Estados para aplicar de forma efectiva sus principios y evitar que la velocidad de la innovación tecnológica termine erosionando garantías jurídicas construidas durante siglos.

Consejo de Europa. (2026). Framework Convention on Artificial Intelligence, Human Rights, Democracy and the Rule of Law. Consejo de Europa. https://www.coe.int/en/web/artificial-intelligence/the-framework-convention-on-artificial-intelligence

Unión Europea. (2024). Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, por el que se establecen normas armonizadas en materia de inteligencia artificial (Ley de Inteligencia Artificial). Diario Oficial de la Unión Europea, L, 2024/1689. https://eur-lex.europa.eu/eli/reg/2024/1689/oj/es