La Convención Marco del Consejo de Europa sobre Inteligencia Artificial: Un instrumento jurídico vinculante para la protección de los derechos humanos digitales

  La Convención Marco del Consejo de Europa sobre Inteligencia Artificial: Un instrumento jurídico vinculante para la protección de los derechos humanos digitales

Fecha: 11 de mayo de 2025

Santiago Carretero 

Introducción: El Consejo de Europa ha dado un paso histórico al aprobar la Convención Marco sobre la Inteligencia Artificial, los Derechos Humanos, la Democracia y el Estado de Derecho, convirtiéndose en el primer tratado internacional jurídicamente vinculante en esta materia. Esta iniciativa no solo refuerza la gobernanza ética de la IA, sino que sienta las bases para su aplicación responsable en los sistemas jurídicos europeos y nacionales.

Contenido normativo y alcance jurídico:

La Convención tiene como objetivo establecer garantías legales frente a los riesgos derivados del uso de sistemas de IA, especialmente en contextos públicos y privados que afecten a derechos fundamentales. Entre sus principales disposiciones destacan:

  • Principio de legalidad y transparencia algorítmica: toda decisión automatizada que afecte derechos deberá estar sujeta a control humano efectivo y mecanismos de impugnación.
  • Prohibición de discriminación algorítmica: los Estados parte deben implementar medidas para evitar sesgos en el entrenamiento y funcionamiento de los algoritmos.
  • Supervisión democrática: se establece la obligación de crear marcos nacionales de evaluación ética y legal de los sistemas de IA.
  • Aplicación extraterritorial: su carácter vinculante implica que los operadores transnacionales deberán someterse a los principios fundamentales cuando sus sistemas tengan efectos en el territorio de un Estado parte.

Relación con el Derecho español y europeo:

Este tratado se complementa con el Reglamento de Inteligencia Artificial de la UE (AI Act), de modo que los Estados europeos deberán armonizar su legislación nacional no solo con la normativa comunitaria, sino también con este nuevo marco convencional. España, que ya ha anunciado su adhesión, deberá adaptar normas procesales, civiles y administrativas para garantizar la trazabilidad, supervisión y explicabilidad de los sistemas automatizados empleados en la Administración de Justicia y en el sector público.

Implicaciones para el ámbito jurídico:

  • Judicialización del uso de IA: se prevé un aumento de litigios sobre decisiones algorítmicas en materia de contratación pública, asistencia sanitaria o justicia penal.
  • Pruebas en procedimientos contencioso-administrativos: el principio de transparencia exigirá a los operadores revelar el funcionamiento de sus algoritmos, especialmente cuando la decisión automatizada haya sustituido la discrecionalidad humana.
  • Responsabilidad civil algorítmica: la Convención abre el camino a sistemas normativos que atribuyan responsabilidad objetiva por daños derivados del uso indebido o defectuoso de la IA.

Reflexión final:

La ratificación de esta Convención no es solo una respuesta jurídica al avance tecnológico: es una exigencia ética para garantizar que la inteligencia artificial se desarrolle al servicio de la dignidad humana, el pluralismo democrático y la seguridad jurídica. Los juristas del siglo XXI tienen ante sí el reto de interpretar e integrar estos nuevos marcos normativos, asegurando una justicia digital coherente con los valores constitucionales europeos.

Preguntas para el debate académico:

  1. ¿Debe establecerse un control judicial previo al despliegue de sistemas de IA en la Administración Pública?
  2. ¿Es viable exigir la explicabilidad de todos los algoritmos utilizados en decisiones jurídicas?
  3. ¿Podría la Convención colisionar con el principio de soberanía regulatoria de los Estados?
  4. ¿Qué papel debe jugar el Consejo General del Poder Judicial en la evaluación de sistemas predictivos judiciales?

Comentarios

Publicar un comentario

Entradas populares de este blog

EL MODELO DE INTENTO DE CONCILIACIÓN QUE IMPONE LA LEY DE EFICIENCIA PROCESAL, PROPUESTA DEL ICAM

  MODELO PARA LA ACREDITACIÓN DEL INTENTO DE NEGOCIACIÓN Y TERMINACIÓN DEL PROCESO SIN ACUERDO Artículo 10º.1 de la Ley Orgánica 1/2025, de 2 de enero, de medidas en materia de eficiencia del Servicio Público de Justicia     Artículo 10. Acreditación del intento de negociación y terminación del proceso sin acuerdo.   1. A los efectos de acreditar que se ha intentado una actividad negociadora previa y cumplir el requisito de procedibilidad, dicha actividad negociadora o el intento de la misma deberá ser recogida documentalmente .   2. Si no hubiera intervenido una tercera persona neutral, la acreditación se cumplirá mediante cualquier documento firmado por ambas partes en el que se deje constancia de la identidad de las mismas y, en su caso, de las personas profesionales o expertas que hayan participado asesorándolas , la fecha, el objeto de la controversia, la fecha de la reunión o reuniones mantenidas, en su caso, y la declaración responsable d...
Leer más

ESQUEMA DETALLADO DE ESCRITO AJUSTADO AL MASC (PARA LETRADOS)

  🧷 ESQUEMA DETALLADO DE ESCRITO AJUSTADO AL MASC (PARA LETRADOS) Por Santiago Carretero Sánchez, Profesor Titular de Filosofía del Derecho, Abogado       1. Encabezamiento Órgano judicial : Ilmo./a. Sr./Sra. Letrado/a de la Administración de Justicia del Juzgado de [Primera Instancia] nº ___ de [localidad]. Parte compareciente : D./D.ª [Nombre del letrado/a del solicitante], en nombre y representación de [cliente], conforme a poder/apoderamiento (notarial o apud acta) que se acompaña/se encuentra ya incorporado. Procedimiento : Indicar si es escrito autónomo previo a demanda o subsanación de requerimiento judicial (art. 438.1 LEC). 2. Exposición de antecedentes y hechos relevantes Breve reseña del conflicto : Detallar la controversia con hechos jurídicamente relevantes. Indicación de la voluntad de acudir a MASC : Expresar que, antes de iniciar/reanudar el procedimiento jud...
Leer más

Resumen de la Ley Orgánica 1/2025: mi nuevo resumen para comprender lo que va a pasar ( si es posible)

  Autor: Santiago Carretero Sánchez, Profesor Titular de la URJC El 3 de abril de 2025 entró en vigor la Ley Orgánica 1/2025, que establece la obligatoriedad de intentar un Mecanismo Alternativo de Solución de Conflictos (MASC) antes de interponer una demanda en el ámbito civil o mercantil. El Consejo General de la Abogacía Española (CGAE) ha publicado una guía para facilitar la comprensión y aplicación de esta nueva exigencia legal. ¿Qué son los MASC? La Ley Orgánica 1/2025 define los MASC de forma abierta como cualquier actividad negociadora para resolver un conflicto. Entre los MASC reconocidos se incluyen: - Mediación - Conciliación (pública o privada) - Negociación directa entre las partes - Oferta vinculante confidencial - Opinión de persona experta independiente - Derecho Colaborativo o Abogacía Colaborativa Ámbitos de aplicación y exclusiones La obligación de intentar una solución extrajudicial se aplica a todos los procesos declarativos y especiales regula...
Leer más