Los pilares esenciales de la transparencia en el Reglamento Europeo de IA (AI Act): claves de la nueva guía 2025

Santiago Carretero, Profesor Titular de la Universidad Rey Juan Carlos

La transparencia es un requisito estructural del Reglamento Europeo de Inteligencia Artificial (Reglamento 2024/1689). La Guía de Transparencia 2025 del sandbox regulatorio español ofrece un marco práctico para cumplir el artículo 13 del AI Act y articular la confianza en sistemas de alto riesgo.

1. Transparencia: un concepto estructural del AI Act

La transparencia no se reduce a “explicar un algoritmo”. En clave jurídica, implica que toda persona involucrada en el ciclo de vida —diseñadores, responsables del despliegue y, muy especialmente, las personas afectadas— pueda comprender, interpretar y supervisar el sistema.

• Explicabilidad e interpretabilidad técnica con sentido jurídico.
• Información accesible en lenguaje natural y útil para la toma de decisiones.
• Comprensión de datos de entrada, resultados de salida, limitaciones y riesgos.
• Medidas que aseguran trazabilidad y supervisión humana efectiva.

2. Qué exige realmente el artículo 13 del AI Act

El artículo 13 se estructura en tres niveles obligatorios que la guía desglosa en requisitos operativos:

a) Diseño y desarrollo transparentes (art. 13.1)

El sistema debe construirse de modo que permita interpretar y usar correctamente sus resultados. Requiere decisiones de diseño, documentación y métricas que hagan comprensible el funcionamiento.

b) Instrucciones de uso claras y accesibles (art. 13.2)

El proveedor debe facilitar instrucciones concisas, completas, correctas y comprensibles en formato digital accesible.

c) Información específica obligatoria (art. 13.3)

• Identidad y contacto del proveedor.
• Características, capacidades y limitaciones del sistema.
• Finalidad prevista y riesgos por usos indebidos razonablemente previsibles.
• Nivel de precisión, solidez y ciberseguridad; circunstancias que los afectan.
• Datos de entrenamiento/validación/prueba y especificaciones de entradas.
• Capacidades de explicabilidad y pautas para interpretar resultados.
• Impacto en colectivos específicos y condiciones de uso.
• Cambios, actualizaciones y configuración predeterminada.
• Medidas de supervisión humana (art. 14).
• Recursos HW/SW, vida útil y mantenimiento.
• Mecanismos de archivo de registros (art. 12).

3. Once medidas esenciales para convertir la transparencia en práctica

La guía propone un marco aplicado de once medidas técnicas y organizativas:

1. Canal de contacto con el proveedor.
2. Atención al dominio funcional (AAPP, Sanidad, Seguros, etc.).
3. Asegurar el objetivo funcional (evitar usos distintos del previsto).
4. Transparencia sobre los datos utilizados y su representatividad.
5. Describir de lo global a lo particular (sistema → cohortes → caso).
6. Adaptar el lenguaje a perfiles técnicos, jurídicos y ciudadanía.
7. Gestionar la complejidad: preferir modelos comprensibles cuando proceda.
8. Integrar métricas a lo largo del ciclo de vida (MLOps).
9. Aplicar prudencia al divulgar información sensible.
10. Favorecer causalidad y minimizar correlaciones para reducir sesgos.
11. Utilizar contrafactualidad para explicar “qué habría pasado si…”.

4. Transparencia y supervisión humana: un binomio jurídico

El artículo 13 (transparencia) y el artículo 14 (supervisión humana) operan de forma inseparable: sin transparencia suficiente no existe supervisión humana eficaz. Es imprescindible la trazabilidad, el acceso a explicaciones/contrafactuales y la detección de sesgos o degradación del modelo.

5. Documentación mínima para acreditar cumplimiento (art. 11 y anexo IV)

Para autoridades y organismos notificados, la guía orienta la producción de:

• Análisis funcional, mapa de riesgos y plan de mitigación.
• Fuentes de datos y análisis exploratorio (EDA) con evidencias.
• Manuales técnico y de usuario, y evidencias de interpretabilidad.
• Métricas de precisión, solidez y ciberseguridad; umbrales y alertas.
• Histórico de versiones, cambios, reentrenamientos y pruebas.
• Registros (logs) y guías para su interpretación conforme al art. 12.

6. Conclusión

La transparencia deja de ser un formalismo y se convierte en metodología de gobernanza para la IA de alto riesgo. La guía del sandbox español aporta un itinerario operativo para traducir el artículo 13 en decisiones de diseño, documentación y supervisión que sostienen la confianza y la legalidad del sistema.

Nota: Síntesis basada en la Guía de Transparencia (versión 10/12/2025) y en el Reglamento (UE) 2024/1689.