La Nueva Ordenación Jurídica de la Inteligencia Artificial en España

 

Santiago Carretero Sánchez

Profesor Titular de Filosofía del Derecho, Universidad Rey Juan Carlos

Introducción

El reciente anteproyecto de ley presentado por el Gobierno español representa un hito en la regulación de las tecnologías emergentes. En un contexto en el que la inteligencia artificial (IA) se expande rápidamente en múltiples ámbitos, la adopción de un marco normativo que armonice el ordenamiento jurídico nacional con el reglamento europeo resulta fundamental. Este análisis aborda, de manera técnica y doctrinal, los elementos esenciales de la normativa, su contenido y la relevancia jurídica que emana del mismo.

Antecedentes y Contexto Normativo

La irrupción de la IA en la sociedad ha generado la necesidad de establecer criterios legales que permitan una adecuada supervisión y control de su uso. En este sentido, la normativa que se incorpora al anteproyecto adapta el marco regulador de la Unión Europea a la realidad española, fijando categorías de riesgo para los diferentes sistemas y aplicaciones. Esta adaptación se inscribe en el esfuerzo por garantizar la protección de derechos fundamentales y la transparencia en la producción y difusión de contenidos digitales.

Contenido del Anteproyecto de Ley

El documento legislativo introduce medidas específicas orientadas a:

• Clasificar los sistemas de IA: La normativa distingue entre aplicaciones en función del nivel de riesgo que suponen, estableciendo requisitos y obligaciones diferenciadas según su impacto potencial.

• Etiquetado obligatorio: Una de las medidas más destacadas es la obligación de etiquetar de forma inequívoca los contenidos generados por IA, tales como vídeos, imágenes o audios. Esta medida busca que los usuarios puedan identificar de inmediato si el contenido es producto de una creación artificial o de una fuente real, reforzando la veracidad y la integridad informativa.

• Régimen sancionador: Se estipulan sanciones económicas de entre 7,5 y 35 millones de euros, o la aplicación de un porcentaje significativo de la facturación anual de la empresa responsable, en función de la gravedad de la infracción. Dicho régimen tiene como finalidad incentivar el cumplimiento riguroso de las normativas y disuadir prácticas que puedan vulnerar derechos esenciales.

Aspectos Jurídicos de Relevancia

Desde el prisma jurídico, la incorporación de estas medidas supone un avance en la protección del orden público informativo y en el control de tecnologías disruptivas. Entre los aspectos más relevantes destacan:

• Régimen de responsabilidad: La clasificación de riesgos y el régimen sancionador introducen un mecanismo de rendición de cuentas que permite imputar responsabilidades de manera precisa a las entidades que operen con sistemas de IA. Esto se traduce en una herramienta efectiva para la prevención de abusos y el resguardo de derechos fundamentales.

• Transparencia y acceso a la información: La obligación de etiquetar los contenidos generados por IA se erige como una garantía de que la información que circula en el ámbito digital sea fácilmente verificable. Este aspecto es crucial en un contexto en el que la manipulación de datos y la desinformación pueden tener efectos perniciosos sobre la opinión pública y la democracia.

• Armonización normativa: Al adaptar la legislación española al reglamento europeo de IA, el anteproyecto contribuye a la consolidación de un marco legal coherente y unificado, facilitando la interoperabilidad y el entendimiento entre distintos ordenamientos jurídicos dentro del espacio comunitario.

Reflexiones Finales

El anteproyecto de ley para regular el uso de la IA en España no solo sienta las bases para un uso responsable y ético de estas tecnologías, sino que también marca un antes y un después en la configuración del entorno jurídico digital. La integración de medidas tan puntuales y técnicas evidencia la intención del legislador de anticipar y mitigar riesgos inherentes a la evolución tecnológica, salvaguardando la integridad de la información y protegiendo los derechos de los ciudadanos.

Resumiendo otro texto quedaría así: 

Prácticas prohibidas y régimen sancionador

El anteproyecto prohíbe ciertas aplicaciones de la IA que puedan manipular o perjudicar a las personas. A partir del 2 de agosto de 2025, se impondrán sanciones a quienes incumplan la norma, con multas que pueden oscilar entre 7,5 y 35 millones de euros, o hasta el 7% del volumen de negocio global del infractor.

Regulación de sistemas de alto riesgo

La normativa establece requisitos específicos para los sistemas de IA considerados de alto riesgo, entre los que destacan:

• IA en productos industriales y de consumo, como máquinas, juguetes, equipos médicos y sistemas de transporte.

• Sistemas de identificación biométrica en entornos críticos, como aeropuertos e infraestructuras esenciales.

• Aplicaciones de IA en educación, selección de personal y acceso a servicios esenciales, como la concesión de créditos.

Obligación de etiquetar contenidos generados por IA

Se introduce la obligación de identificar claramente los contenidos generados mediante IA para evitar la desinformación. Esta medida pretende facilitar a los usuarios la distinción entre información real y virtual, y su incumplimiento puede conllevar sanciones significativas.

Supervisión y aplicación de la ley

La Agencia Española de Supervisión de la Inteligencia Artificial (AESIA) será la encargada de garantizar el cumplimiento de la ley, en coordinación con organismos como la Agencia Española de Protección de Datos y el Consejo General del Poder Judicial.

Este anteproyecto supone un avance clave en la regulación de la IA en España, consolidando un marco legal que protege los derechos fundamentales sin frenar el desarrollo tecnológico.