IDEAS CENTRALES DEL ANTEPROYECTO DE LEY PARA LA GOBERNANZA DE LA INTELIGENCIA ARTIFICIAL EN ESPAÑA

 Santiago Carretero Sánchez

Profesor de Filosofía del Derecho

El 11 de marzo de 2025, el Consejo de Ministros de España aprobó el Anteproyecto de Ley de Gobernanza de la Inteligencia Artificial (IA), una normativa que adapta la legislación nacional al Reglamento Europeo de IA recientemente en vigor. Este anteproyecto tiene como objetivo principal garantizar un uso ético, inclusivo y beneficioso de la IA en el país.

Obligación de etiquetado de contenidos generados por IA

Una de las medidas más destacadas de esta normativa es la obligación de identificar de manera clara y distinguible cualquier contenido generado o manipulado mediante IA, incluyendo imágenes, audios y videos, conocidos comúnmente como 'deepfakes'. Esta disposición busca proporcionar a los usuarios la capacidad de diferenciar entre contenido real y virtual, promoviendo la transparencia y evitando posibles engaños o manipulaciones. Desde luego parece una buena medida para impedir este tipo de productos en la lucha política, económica, empresarial...

Prohibiciones específicas y prácticas no autorizadas

El anteproyecto establece la prohibición de ciertas prácticas consideradas de alto riesgo o potencialmente dañinas. Entre ellas se incluyen:

  • El uso de técnicas subliminales destinadas a influir en el comportamiento de las personas sin su consentimiento.

  • La explotación de vulnerabilidades específicas relacionadas con la edad, discapacidades o situaciones socioeconómicas.

  • La clasificación de individuos mediante datos biométricos con el propósito de determinar su elegibilidad para beneficios o evaluar riesgos.

Estas prohibiciones buscan proteger a los ciudadanos de posibles abusos y garantizar que la IA se utilice de manera ética y responsable. 

Sanciones por incumplimiento

El régimen sancionador previsto en la ley es contundente. Las infracciones pueden ser clasificadas como graves, con multas que alcanzan hasta 35 millones de euros o el 7% de la facturación anual de la empresa infractora, aplicándose el monto superior. Esta medida busca disuadir el incumplimiento y asegurar la adherencia a las normativas establecidas.

Organismos de supervisión y control

La supervisión del cumplimiento de esta normativa estará a cargo de la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA), en colaboración con la Agencia Española de Protección de Datos (AEPD) y otras entidades relevantes. Esta estructura de vigilancia garantiza una implementación efectiva de la ley y la protección de los derechos de los ciudadanos en relación con el uso de la IA. 

Adaptación al marco europeo

Este anteproyecto de ley se alinea con el Reglamento Europeo de IA, que clasifica las aplicaciones de inteligencia artificial según su nivel de riesgo y establece requisitos y obligaciones específicas para cada categoría. La adaptación de la legislación española a este marco europeo refleja el compromiso del país con la promoción de un desarrollo tecnológico responsable y la protección de los derechos fundamentales de sus ciudadanos. 

Conclusión

La aprobación de este anteproyecto representa un paso significativo hacia la regulación efectiva de la inteligencia artificial en España. Al establecer obligaciones claras, prohibiciones específicas y un régimen sancionador robusto, la normativa busca equilibrar el fomento de la innovación tecnológica con la protección de los derechos y la seguridad de los ciudadanos. La supervisión por parte de organismos especializados asegura una implementación adecuada y el cumplimiento de los estándares éticos en el uso de la IA.

Santiago Carretero Sánchez

Professor of Philosophy of Law

March 11, 2025: Approval of Spain’s Artificial Intelligence Governance Bill

On March 11, 2025, Spain’s Council of Ministers approved the Draft Bill on Artificial Intelligence (AI) Governance, a legal framework aligning national legislation with the recently enacted European AI Regulation. The primary goal of this bill is to ensure an ethical, inclusive, and beneficial use of AI in the country.

Mandatory Labeling of AI-Generated Content

One of the most notable measures of this legislation is the requirement to clearly and distinguishably identify any content generated or manipulated by AI, including images, audio, and videos, commonly known as 'deepfakes.' This provision aims to enable users to differentiate between real and synthetic content, promoting transparency and preventing potential deception or manipulation. This initiative appears to be a crucial step in combating the misuse of AI-generated content in political, economic, and corporate spheres.

Specific Prohibitions and Unauthorized Practices

The draft bill prohibits certain practices deemed high-risk or potentially harmful, including:

  • The use of subliminal techniques designed to influence people’s behavior without their consent.
  • The exploitation of vulnerabilities related to age, disabilities, or socio-economic conditions.
  • The classification of individuals using biometric data to determine eligibility for benefits or assess risks.

These prohibitions aim to protect citizens from potential abuses and ensure that AI is used ethically and responsibly.

Penalties for Non-Compliance

The bill establishes a strict sanctioning regime. Violations may be classified as severe, carrying fines of up to €35 million or 7% of the offending company's annual revenue, whichever is higher. This measure seeks to deter non-compliance and ensure adherence to the established regulations.

Supervisory and Regulatory Bodies

Compliance with this legislation will be overseen by the Spanish Agency for AI Supervision (AESIA), in collaboration with the Spanish Data Protection Agency (AEPD) and other relevant entities. This supervisory framework guarantees the effective implementation of the law and the protection of citizens' rights regarding AI usage.

Alignment with the European Framework

This draft bill aligns with the European AI Regulation, which classifies AI applications based on their level of risk and establishes specific requirements and obligations for each category. Spain’s adaptation to this European framework reflects the country's commitment to fostering responsible technological development while safeguarding fundamental rights.

Conclusion

The approval of this draft bill represents a significant step toward the effective regulation of artificial intelligence in Spain. By establishing clear obligations, specific prohibitions, and a robust sanctioning regime, the legislation seeks to balance technological innovation with the protection of citizens' rights and security. Oversight by specialized agencies ensures proper implementation and adherence to ethical standards in AI usage.

Comentarios

Publicar un comentario

Entradas populares de este blog

EL MODELO DE INTENTO DE CONCILIACIÓN QUE IMPONE LA LEY DE EFICIENCIA PROCESAL, PROPUESTA DEL ICAM

  MODELO PARA LA ACREDITACIÓN DEL INTENTO DE NEGOCIACIÓN Y TERMINACIÓN DEL PROCESO SIN ACUERDO Artículo 10º.1 de la Ley Orgánica 1/2025, de 2 de enero, de medidas en materia de eficiencia del Servicio Público de Justicia     Artículo 10. Acreditación del intento de negociación y terminación del proceso sin acuerdo.   1. A los efectos de acreditar que se ha intentado una actividad negociadora previa y cumplir el requisito de procedibilidad, dicha actividad negociadora o el intento de la misma deberá ser recogida documentalmente .   2. Si no hubiera intervenido una tercera persona neutral, la acreditación se cumplirá mediante cualquier documento firmado por ambas partes en el que se deje constancia de la identidad de las mismas y, en su caso, de las personas profesionales o expertas que hayan participado asesorándolas , la fecha, el objeto de la controversia, la fecha de la reunión o reuniones mantenidas, en su caso, y la declaración responsable d...
Leer más

ESQUEMA DETALLADO DE ESCRITO AJUSTADO AL MASC (PARA LETRADOS)

  🧷 ESQUEMA DETALLADO DE ESCRITO AJUSTADO AL MASC (PARA LETRADOS) Por Santiago Carretero Sánchez, Profesor Titular de Filosofía del Derecho, Abogado       1. Encabezamiento Órgano judicial : Ilmo./a. Sr./Sra. Letrado/a de la Administración de Justicia del Juzgado de [Primera Instancia] nº ___ de [localidad]. Parte compareciente : D./D.ª [Nombre del letrado/a del solicitante], en nombre y representación de [cliente], conforme a poder/apoderamiento (notarial o apud acta) que se acompaña/se encuentra ya incorporado. Procedimiento : Indicar si es escrito autónomo previo a demanda o subsanación de requerimiento judicial (art. 438.1 LEC). 2. Exposición de antecedentes y hechos relevantes Breve reseña del conflicto : Detallar la controversia con hechos jurídicamente relevantes. Indicación de la voluntad de acudir a MASC : Expresar que, antes de iniciar/reanudar el procedimiento jud...
Leer más

Resumen de la Ley Orgánica 1/2025: mi nuevo resumen para comprender lo que va a pasar ( si es posible)

  Autor: Santiago Carretero Sánchez, Profesor Titular de la URJC El 3 de abril de 2025 entró en vigor la Ley Orgánica 1/2025, que establece la obligatoriedad de intentar un Mecanismo Alternativo de Solución de Conflictos (MASC) antes de interponer una demanda en el ámbito civil o mercantil. El Consejo General de la Abogacía Española (CGAE) ha publicado una guía para facilitar la comprensión y aplicación de esta nueva exigencia legal. ¿Qué son los MASC? La Ley Orgánica 1/2025 define los MASC de forma abierta como cualquier actividad negociadora para resolver un conflicto. Entre los MASC reconocidos se incluyen: - Mediación - Conciliación (pública o privada) - Negociación directa entre las partes - Oferta vinculante confidencial - Opinión de persona experta independiente - Derecho Colaborativo o Abogacía Colaborativa Ámbitos de aplicación y exclusiones La obligación de intentar una solución extrajudicial se aplica a todos los procesos declarativos y especiales regula...
Leer más