Consulta europea sobre incidentes graves en el AI Act: implicaciones para juristas

 


Consulta europea sobre incidentes graves en el AI Act: implicaciones para juristas

Santiago Carretero Sánchez — Profesor Titular de Filosofía del Derecho, Universidad Rey Juan Carlos; Abogado del Ilustre Colegio de Madrid

El 3 de octubre de 2025 la Comisión Europea abrió una consulta pública sobre la interpretación del artículo 73 del Reglamento de Inteligencia Artificial (AI Act), relativo a los llamados “incidentes graves”. Esta iniciativa busca definir con mayor claridad cómo deben notificarse los fallos de sistemas de IA que generen riesgos significativos para los derechos fundamentales, la seguridad o la integridad de las personas.

¿Qué significa un “incidente grave” en la práctica?

El AI Act exige no solo un control previo al uso de sistemas de IA, sino también un mecanismo de vigilancia poscomercialización. Los proveedores y usuarios cualificados deberán reportar a las autoridades nacionales cualquier evento adverso que evidencie un riesgo sustancial. La consulta pretende aclarar qué supuestos encajan en esta categoría: desde sesgos algorítmicos con impacto discriminatorio hasta fallos técnicos que afecten a la seguridad física.

Relevancia jurídica para el jurista

Este paso convierte a los juristas en actores esenciales del cumplimiento normativo. La interpretación de lo que constituye un “incidente grave” condicionará la responsabilidad civil y administrativa de empresas y administraciones públicas que usen IA. Además, delimita el alcance de los compliance programs y la cultura de reporting en el Derecho europeo.

Perspectiva docente y práctica

Para la enseñanza del Derecho, este desarrollo ofrece un ejemplo concreto de cómo el Derecho de la Unión Europea construye mecanismos preventivos y correctivos frente a tecnologías disruptivas. También plantea debates sobre proporcionalidad, estándares de diligencia debida y la necesidad de formación interdisciplinar para identificar y evaluar incidentes.

Fuente de la noticia: The National Law Review, “European Commission Opens Consultation on EU AI Act Serious Incident Guidance”, 3 de octubre de 2025. Disponible en: natlawreview.com

Bibliografía de apoyo

- Sartor, G. (2024). Artificial Intelligence and Legal Responsibility in the EU. European Law Journal, 30(2), 145-162.
- Veale, M., & Zuiderveen Borgesius, F. (2023). Demystifying the Draft EU Artificial Intelligence Act. Computer Law & Security Review, 49, 105779.
- European Commission (2025). Guidance on Serious Incidents under the AI Act (Draft). Brussels.

Comentarios

Publicar un comentario

Entradas populares de este blog

EL MODELO DE INTENTO DE CONCILIACIÓN QUE IMPONE LA LEY DE EFICIENCIA PROCESAL, PROPUESTA DEL ICAM

  MODELO PARA LA ACREDITACIÓN DEL INTENTO DE NEGOCIACIÓN Y TERMINACIÓN DEL PROCESO SIN ACUERDO Artículo 10º.1 de la Ley Orgánica 1/2025, de 2 de enero, de medidas en materia de eficiencia del Servicio Público de Justicia     Artículo 10. Acreditación del intento de negociación y terminación del proceso sin acuerdo.   1. A los efectos de acreditar que se ha intentado una actividad negociadora previa y cumplir el requisito de procedibilidad, dicha actividad negociadora o el intento de la misma deberá ser recogida documentalmente .   2. Si no hubiera intervenido una tercera persona neutral, la acreditación se cumplirá mediante cualquier documento firmado por ambas partes en el que se deje constancia de la identidad de las mismas y, en su caso, de las personas profesionales o expertas que hayan participado asesorándolas , la fecha, el objeto de la controversia, la fecha de la reunión o reuniones mantenidas, en su caso, y la declaración responsable d...
Leer más

ESQUEMA DETALLADO DE ESCRITO AJUSTADO AL MASC (PARA LETRADOS)

  🧷 ESQUEMA DETALLADO DE ESCRITO AJUSTADO AL MASC (PARA LETRADOS) Por Santiago Carretero Sánchez, Profesor Titular de Filosofía del Derecho, Abogado       1. Encabezamiento Órgano judicial : Ilmo./a. Sr./Sra. Letrado/a de la Administración de Justicia del Juzgado de [Primera Instancia] nº ___ de [localidad]. Parte compareciente : D./D.ª [Nombre del letrado/a del solicitante], en nombre y representación de [cliente], conforme a poder/apoderamiento (notarial o apud acta) que se acompaña/se encuentra ya incorporado. Procedimiento : Indicar si es escrito autónomo previo a demanda o subsanación de requerimiento judicial (art. 438.1 LEC). 2. Exposición de antecedentes y hechos relevantes Breve reseña del conflicto : Detallar la controversia con hechos jurídicamente relevantes. Indicación de la voluntad de acudir a MASC : Expresar que, antes de iniciar/reanudar el procedimiento jud...
Leer más

Resumen de la Ley Orgánica 1/2025: mi nuevo resumen para comprender lo que va a pasar ( si es posible)

  Autor: Santiago Carretero Sánchez, Profesor Titular de la URJC El 3 de abril de 2025 entró en vigor la Ley Orgánica 1/2025, que establece la obligatoriedad de intentar un Mecanismo Alternativo de Solución de Conflictos (MASC) antes de interponer una demanda en el ámbito civil o mercantil. El Consejo General de la Abogacía Española (CGAE) ha publicado una guía para facilitar la comprensión y aplicación de esta nueva exigencia legal. ¿Qué son los MASC? La Ley Orgánica 1/2025 define los MASC de forma abierta como cualquier actividad negociadora para resolver un conflicto. Entre los MASC reconocidos se incluyen: - Mediación - Conciliación (pública o privada) - Negociación directa entre las partes - Oferta vinculante confidencial - Opinión de persona experta independiente - Derecho Colaborativo o Abogacía Colaborativa Ámbitos de aplicación y exclusiones La obligación de intentar una solución extrajudicial se aplica a todos los procesos declarativos y especiales regula...
Leer más