la Solidez en los Sistemas de Inteligencia Artificial de Alto Riesgo: Finalidad, Alcance y Concreción Jurídica de la Guía de AESIA

 

La Solidez en los Sistemas de Inteligencia Artificial de Alto Riesgo: Finalidad, Alcance y Concreción Jurídica de la Guía de AESIA

Santiago Carretero Sánchez, Profesor Titular URJC. Filosofía del Derecho

La solidez técnica de los sistemas de inteligencia artificial de alto riesgo se ha convertido en uno de los elementos vertebradores del nuevo Derecho europeo de la inteligencia artificial. La Guía de Solidez elaborada por la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA) ofrece un marco operativo y metodológico destinado a facilitar la correcta implementación del Reglamento (UE) 2024/1689, traduciendo sus obligaciones en criterios comprensibles y aplicables por proveedores y responsables del despliegue. Aunque no posee carácter jurídico vinculante, su relevancia resulta indiscutible: se configura como un instrumento de soft law de alto valor interpretativo, sometido a un proceso constante de actualización y alineado con los estándares europeos en desarrollo.

La guía parte de una premisa central: todo sistema de IA de alto riesgo debe estar diseñado, desarrollado y operado de manera que mantenga un nivel adecuado de solidez, esto es, la capacidad de responder de forma estable, fiable y segura ante perturbaciones, errores o comportamientos no previstos. Esta exigencia no es meramente técnica, sino una garantía jurídica destinada a proteger la seguridad, los derechos fundamentales y la integridad de las decisiones automatizadas. El considerando 75 del Reglamento europeo subraya la importancia de que los sistemas sean resilientes frente a eventos adversos derivados tanto de limitaciones internas como de condiciones externas, e introduce una idea clave: cuando la solidez no pueda asegurarse, el sistema debe estar preparado para interrumpir su funcionamiento de manera controlada. La guía adopta esta exigencia como fundamento estructural de todas sus recomendaciones.

El documento desarrolla un concepto amplio de solidez, entendido como la interrelación entre diversas propiedades del sistema: fiabilidad, estabilidad, sensibilidad, relevancia y alcanzabilidad. Cada una de estas dimensiones expresa una faceta del comportamiento seguro del modelo, y su evaluación exige metodologías sistemáticas, métricas adecuadas y procedimientos de validación y verificación ajustados al contexto de uso. La guía insiste en que estas propiedades no pueden analizarse de forma aislada, sino integrarse en una arquitectura de calidad que recorre todo el ciclo de vida del sistema. De este modo, la solidez deja de ser un atributo estático y se transforma en un objetivo continuo cuya verificación debe realizarse desde el diseño y entrenamiento, pasando por las fases de verificación y validación, hasta llegar a su implantación y operación real.

En coherencia con el artículo 15 del AI Act, la Guía de AESIA detalla cómo deben preservarse los niveles de solidez a lo largo del tiempo. Establece la necesidad de anticipar y detectar fenómenos de degradación del modelo, desplazamientos de datos, cambios en el dominio de aplicación o situaciones no previstas que alteren la precisión o el rendimiento. A través de métricas bien definidas, sistemas de monitorización continua, mecanismos de alerta y documentación técnica exhaustiva, el proveedor debe garantizar que cualquier deterioro sea identificado, cuantificado y corregido. Si la degradación supera los límites establecidos en la documentación técnica, la guía exige activar mecanismos que involucren a operadores humanos y, en última instancia, permitan suspender el funcionamiento del sistema si persiste un riesgo relevante para la solidez.

Particular atención merece la cuestión de la organización interna y la distribución de responsabilidades. La guía refuerza el modelo funcional previsto en el Reglamento, según el cual el proveedor asume la responsabilidad principal en el diseño, la implementación de mecanismos de solidez, la validación del sistema, la monitorización y la actualización de la documentación técnica. Por su parte, el responsable del despliegue debe contar con las capacidades formativas necesarias para interpretar las métricas, supervisar el comportamiento cotidiano del sistema, detectar anomalías y comunicar cualquier desviación al proveedor. Esta relación de corresponsabilidad constituye una pieza esencial del enfoque europeo centrado en la seguridad, la transparencia y la fiabilidad de los sistemas de alto riesgo.

La guía también incorpora recomendaciones para garantizar la solidez en sistemas que continúan aprendiendo tras su puesta en servicio. En estos casos, la aparición de bucles de retroalimentación sesgados, el olvido catastrófico o la degradación progresiva del modelo adquieren especial relevancia. AESIA exige la adopción de estrategias específicas de mitigación, técnicas de aprendizaje continuo robustas, mecanismos de trazabilidad de actualizaciones y sistemas de control que impidan que nuevas iteraciones del modelo comprometan las garantías previamente validadas. La solidez se convierte así en un criterio rector del proceso de evolución del sistema, y no únicamente en un requisito previo a su comercialización.

En conjunto, la Guía de Solidez configura un marco docente y técnico destinado a dotar a los operadores jurídicos, técnicos y organizativos de un esquema integral para comprender y aplicar el principio de solidez en sistemas de IA de alto riesgo. Su valor reside precisamente en la capacidad de transformar las obligaciones del Reglamento en prácticas verificables, operativas y documentables. El resultado es una monografía técnica que articula un modelo europeo de inteligencia artificial basado en la resiliencia técnica, la supervisión continua y la primacía de los derechos fundamentales. La solidez, entendida como garantía estructural, se convierte así en una condición de legitimidad del uso de la IA en ámbitos sensibles y jurídicamente relevantes.