La presentación del Plan IA360: nueva fase en España para la implemneración digital

 

Santiago Carretero Sánchez, Profesor Titular de Filosofía del Derecho, Universidad Rey Juan Carlos, Abogado del Ilustre Colegio de Abogados de Madrid

La presentación del Plan IA360 el pasado 21 de septiembre introduce un elemento de especial interés en la evolución jurídica de la inteligencia artificial en España. Más allá de las medidas tecnológicas, económicas o formativas anunciadas, lo verdaderamente relevante para el jurista es que la inteligencia artificial comienza a plantearse de forma explícita como una cuestión de gobernanza. El Plan se presenta como una hoja de ruta para los próximos doce meses y articula cuatro grandes objetivos: reforzar las capacidades tecnológicas, convertir la adopción de la IA en motor económico y de generación de talento, desarrollar mecanismos de gobernanza y seguridad, e impulsar un acuerdo social sobre las transformaciones derivadas de esta tecnología.

Este planteamiento debe situarse dentro de un marco jurídico europeo que ya ha experimentado un cambio cualitativo. El Reglamento (UE) 2024/1689, conocido como Reglamento de Inteligencia Artificial, no se limita a establecer determinadas prohibiciones o requisitos técnicos. Su objeto comprende también la gobernanza, la vigilancia del mercado, la garantía del cumplimiento y la protección de los derechos fundamentales. El artículo 1 vincula expresamente la regulación de la IA con la salud, la seguridad, los derechos fundamentales, la democracia, el Estado de Derecho y la protección del medio ambiente. El legislador europeo, por tanto, ha asumido que la IA no constituye únicamente una cuestión de innovación tecnológica, sino una realidad susceptible de alterar las condiciones en las que se ejercen derechos y se adoptan decisiones con efectos jurídicos.

Aquí aparece la cuestión central. Gobernar la inteligencia artificial no significa simplemente establecer más normas para quienes desarrollan modelos o comercializan sistemas. Significa determinar quién responde cuando una tecnología interviene en una decisión relevante, qué información debe conservarse para poder reconstruir el proceso seguido, qué grado de supervisión humana resulta exigible, cómo puede impugnarse una decisión asistida algorítmicamente y qué autoridad debe controlar el funcionamiento del sistema. El Reglamento europeo ofrece ya algunas respuestas mediante conceptos como gestión de riesgos, supervisión humana, transparencia, obligaciones de los proveedores y responsables del despliegue y evaluación del impacto sobre los derechos fundamentales. La regulación española que se desarrolle a partir de ahora deberá integrarse en esta arquitectura y evitar que la gobernanza se convierta en una mera declaración programática.

La relevancia jurídica de este cambio se comprende especialmente cuando la IA interviene en ámbitos sensibles. El Reglamento europeo considera de alto riesgo determinados sistemas cuyo funcionamiento puede afectar de manera significativa a derechos fundamentales, y exige para ellos mecanismos específicos de gestión de riesgos y supervisión humana. En determinados supuestos, además, los responsables del despliegue deben realizar una evaluación de impacto sobre los derechos fundamentales antes de poner el sistema en funcionamiento. No estamos, por tanto, ante una simple obligación de utilizar correctamente una herramienta informática. Se está construyendo progresivamente un régimen jurídico en el que el ciclo de vida del sistema, sus datos, sus riesgos, su utilización y la capacidad de intervención humana forman parte del problema jurídico.

En este contexto adquiere particular importancia la trazabilidad. Una decisión humana tradicional puede reconstruirse mediante documentos, testimonios, registros administrativos o actuaciones identificables. En cambio, cuando una organización incorpora un sistema de IA en un proceso decisorio, la reconstrucción de lo sucedido puede resultar considerablemente más compleja. Saber qué datos se utilizaron, qué sistema intervino, con qué finalidad, qué versión estaba operativa, qué instrucciones recibió, qué resultado produjo y qué intervención humana se produjo posteriormente deja de ser una cuestión exclusivamente técnica. Puede convertirse en una condición necesaria para determinar la responsabilidad y garantizar el derecho de defensa. La trazabilidad, en consecuencia, comienza a adquirir una auténtica dimensión jurídica.

España ya dispone, además, de antecedentes normativos que permiten comprender esta evolución. El artículo 23 de la Ley 15/2022, de 12 de julio, integral para la igualdad de trato y la no discriminación, establece que las administraciones públicas favorecerán mecanismos destinados a que los algoritmos empleados en la toma de decisiones tengan en cuenta criterios de minimización de sesgos, transparencia y rendición de cuentas, siempre que sea técnicamente posible. El legislador español anticipó así una cuestión que ahora adquiere mucha mayor relevancia: la utilización de sistemas automatizados por los poderes públicos no puede separarse de las exigencias jurídicas de igualdad, transparencia y responsabilidad.

Por ello, el verdadero alcance del Plan IA360 no debería medirse únicamente por el número de infraestructuras que se construyan, las empresas que incorporen inteligencia artificial o los modelos que puedan desarrollarse en España. Desde una perspectiva jurídica, será necesario observar cómo se concreta la gobernanza anunciada. El Plan señala expresamente la seguridad como una prioridad y contempla el refuerzo de la ciberseguridad y una mayor supervisión respecto de determinados modelos de frontera. También anuncia una mesa en la que participarían expertos, empresas, sindicatos, científicos, universidad, sociedad civil y Administración pública.

La cuestión decisiva será convertir estos principios en procedimientos jurídicamente verificables. Una gobernanza eficaz exige identificar responsabilidades antes de que aparezca el daño y no únicamente después. Exige determinar qué controles deben existir antes del despliegue, qué registros deben conservarse durante su utilización, qué mecanismos de supervisión deben permanecer activos y qué vías de reclamación deben estar disponibles para las personas afectadas. El propio Reglamento europeo establece que los responsables del despliegue de determinados sistemas de alto riesgo tienen un papel esencial en la protección de los derechos fundamentales precisamente porque conocen el contexto concreto en el que se utiliza la tecnología.

Existe además una dimensión específicamente jurídica que merece atención: la relación entre la innovación y el principio de responsabilidad. La velocidad de evolución de los modelos de IA puede generar una cierta tentación de considerar que el Derecho siempre llega después de la tecnología. Sin embargo, el problema no consiste necesariamente en anticipar todas las innovaciones posibles, algo materialmente imposible, sino en establecer principios suficientemente sólidos para que la innovación permanezca sometida a responsabilidad, control y tutela jurídica. El Derecho no necesita conocer de antemano cuál será el próximo modelo de inteligencia artificial para exigir que, cuando una tecnología produzca efectos jurídicamente relevantes sobre una persona, existan garantías suficientes para conocer, controlar y eventualmente impugnar esos efectos.

Desde esta perspectiva, IA360 puede ser leído como un nuevo paso desde la regulación hacia la gobernanza. La primera pregunta era cómo limitar determinados usos perjudiciales de la inteligencia artificial. La siguiente es mucho más compleja: cómo organizar jurídicamente un ecosistema en el que empresas, Administraciones, universidades, trabajadores y ciudadanos utilizan sistemas de IA con diferentes niveles de autonomía y riesgo. Esa transición exige superar una visión puramente tecnológica de la regulación y situar en el centro las instituciones jurídicas que permiten distribuir poder, responsabilidad y garantías.

El futuro inmediato de la inteligencia artificial en España no dependerá únicamente de disponer de más capacidad de cálculo, mejores modelos o mayores niveles de adopción. También dependerá de la calidad de las instituciones capaces de controlar sus efectos. Para el jurista, este es probablemente el aspecto más significativo de la nueva etapa: la inteligencia artificial está dejando de ser exclusivamente un objeto de regulación para convertirse en un problema general de organización jurídica del poder tecnológico. La cuestión ya no es solamente qué puede hacer una máquina, sino bajo qué reglas puede hacerlo, quién responde por sus efectos y qué garantías conserva la persona cuando una decisión que afecta a sus derechos incorpora una intervención algorítmica.

En este punto adquiere pleno sentido la idea de una gobernanza jurídica de la inteligencia artificial. No se trata de sustituir la innovación por regulación ni de considerar que toda utilización de IA entraña necesariamente un riesgo jurídicamente intolerable. Se trata de construir un marco en el que innovación, seguridad, derechos fundamentales, transparencia y responsabilidad puedan coexistir. El éxito de esta nueva fase no dependerá, por ello, exclusivamente de la potencia tecnológica alcanzada, sino de la capacidad de convertir los principios jurídicos en garantías concretas y exigibles. Ese es, en definitiva, el verdadero reto jurídico que comienza a plantear la IA360.