Compliance empresarial e inteligencia artificial: retos normativos y garantías jurídicas en el marco europeo y español

 

Compliance empresarial e inteligencia artificial: desafíos normativos y garantías jurídicas en el marco europeo y español

Autor: Santiago Carretero Sánchez

1. Introducción

La irrupción de la inteligencia artificial (IA) en el ámbito empresarial ha transformado radicalmente los procesos de toma de decisiones, gestión de riesgos y relaciones laborales. Esta transformación, sin embargo, no está exenta de desafíos jurídicos. En este contexto, el compliance —entendido como el conjunto de procedimientos y buenas prácticas adoptadas por las empresas para garantizar el cumplimiento normativo— se erige como un instrumento esencial para prevenir responsabilidades legales derivadas del uso de sistemas de IA.

2. Marco normativo vigente

2.1. Reglamento (UE) 2024/1689 (AI Act)

El AI Act, aprobado en junio de 2024, establece un marco jurídico armonizado para el desarrollo, comercialización y uso de sistemas de IA en la Unión Europea. Clasifica los sistemas en función de su nivel de riesgo (mínimo, limitado, alto y prohibido) y establece obligaciones específicas para los sistemas de alto riesgo, como los utilizados en procesos de contratación laboral, evaluación crediticia o decisiones judiciales.

Entre las obligaciones destacan:

  • Evaluaciones de conformidad previas a la comercialización.
  • Registro en bases de datos europeas.
  • Supervisión humana significativa.
  • Transparencia y explicabilidad de los algoritmos.

2.2. Normativa española complementaria

España ha adoptado medidas para implementar el AI Act mediante la Ley de Gobernanza de la Inteligencia Artificial, que refuerza la supervisión de sistemas de IA en sectores críticos y establece la Agencia Española de Supervisión de la IA. Esta ley exige auditorías periódicas, mecanismos de trazabilidad y protocolos de intervención humana en decisiones automatizadas.

2.3. Normas conexas

El compliance en IA debe articularse con otras normativas:

  • Reglamento General de Protección de Datos (RGPD).
  • Ley de Servicios Digitales (2022) y Ley de Mercados Digitales (2023).
  • Directiva sobre responsabilidad por productos defectuosos.

3. Obligaciones de compliance en empresas que desarrollan o utilizan IA

Las empresas deben implementar programas de cumplimiento que contemplen:

  • Evaluaciones de impacto algorítmico.
  • Auditorías internas y externas.
  • Supervisión humana.
  • Transparencia algorítmica.

Estas obligaciones deben integrarse en los Modelos de Prevención Penal exigidos por el artículo 31 bis del Código Penal español.

4. Jurisprudencia relevante

  • STS 56/2022, de 24 de enero.
  • STS 264/2022, de 18 de marzo.
  • STS 792/2022, de 29 de septiembre.
  • Asunto C-634/21 del Tribunal de Justicia de la UE.

5. Riesgos jurídicos y éticos

  • Discriminación algorítmica.
  • Opacidad algorítmica.
  • Responsabilidad civil y penal.
  • Vulneración de derechos digitales.

6. Reflexiones doctrinales

Desde la filosofía del derecho y la teoría de la responsabilidad, surgen interrogantes relevantes sobre la adaptación del compliance a sistemas autónomos, la suficiencia del marco normativo y la reformulación del concepto de culpabilidad empresarial.

7. Conclusión

El compliance empresarial se enfrenta al reto de adaptarse a una realidad tecnológica en constante evolución. La inteligencia artificial exige una gobernanza jurídica proactiva, ética y transparente. Las empresas deben asumir un compromiso firme con la legalidad, la protección de derechos y la supervisión responsable de sus sistemas de IA.

Referencias (formato APA)

[1] Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, relativo a la inteligencia artificial (AI Act).

[2] Ley española de Gobernanza de la Inteligencia Artificial, BOE, 2024.

[3] Reglamento General de Protección de Datos (UE) 2016/679.

[4] Tribunal Supremo (España). STS 56/2022, STS 264/2022, STS 792/2022.

[5] Tribunal de Justicia de la Unión Europea. Asunto C-634/21.

[6] Moré Sebastián, T. (2023). Responsabilidad civil y sistemas de inteligencia artificial. Revista de Derecho Privado, 47(2), 123-145.

Comentarios

Publicar un comentario

Entradas populares de este blog

EL MODELO DE INTENTO DE CONCILIACIÓN QUE IMPONE LA LEY DE EFICIENCIA PROCESAL, PROPUESTA DEL ICAM

  MODELO PARA LA ACREDITACIÓN DEL INTENTO DE NEGOCIACIÓN Y TERMINACIÓN DEL PROCESO SIN ACUERDO Artículo 10º.1 de la Ley Orgánica 1/2025, de 2 de enero, de medidas en materia de eficiencia del Servicio Público de Justicia     Artículo 10. Acreditación del intento de negociación y terminación del proceso sin acuerdo.   1. A los efectos de acreditar que se ha intentado una actividad negociadora previa y cumplir el requisito de procedibilidad, dicha actividad negociadora o el intento de la misma deberá ser recogida documentalmente .   2. Si no hubiera intervenido una tercera persona neutral, la acreditación se cumplirá mediante cualquier documento firmado por ambas partes en el que se deje constancia de la identidad de las mismas y, en su caso, de las personas profesionales o expertas que hayan participado asesorándolas , la fecha, el objeto de la controversia, la fecha de la reunión o reuniones mantenidas, en su caso, y la declaración responsable d...
Leer más

ESQUEMA DETALLADO DE ESCRITO AJUSTADO AL MASC (PARA LETRADOS)

  🧷 ESQUEMA DETALLADO DE ESCRITO AJUSTADO AL MASC (PARA LETRADOS) Por Santiago Carretero Sánchez, Profesor Titular de Filosofía del Derecho, Abogado       1. Encabezamiento Órgano judicial : Ilmo./a. Sr./Sra. Letrado/a de la Administración de Justicia del Juzgado de [Primera Instancia] nº ___ de [localidad]. Parte compareciente : D./D.ª [Nombre del letrado/a del solicitante], en nombre y representación de [cliente], conforme a poder/apoderamiento (notarial o apud acta) que se acompaña/se encuentra ya incorporado. Procedimiento : Indicar si es escrito autónomo previo a demanda o subsanación de requerimiento judicial (art. 438.1 LEC). 2. Exposición de antecedentes y hechos relevantes Breve reseña del conflicto : Detallar la controversia con hechos jurídicamente relevantes. Indicación de la voluntad de acudir a MASC : Expresar que, antes de iniciar/reanudar el procedimiento jud...
Leer más

Resumen de la Ley Orgánica 1/2025: mi nuevo resumen para comprender lo que va a pasar ( si es posible)

  Autor: Santiago Carretero Sánchez, Profesor Titular de la URJC El 3 de abril de 2025 entró en vigor la Ley Orgánica 1/2025, que establece la obligatoriedad de intentar un Mecanismo Alternativo de Solución de Conflictos (MASC) antes de interponer una demanda en el ámbito civil o mercantil. El Consejo General de la Abogacía Española (CGAE) ha publicado una guía para facilitar la comprensión y aplicación de esta nueva exigencia legal. ¿Qué son los MASC? La Ley Orgánica 1/2025 define los MASC de forma abierta como cualquier actividad negociadora para resolver un conflicto. Entre los MASC reconocidos se incluyen: - Mediación - Conciliación (pública o privada) - Negociación directa entre las partes - Oferta vinculante confidencial - Opinión de persona experta independiente - Derecho Colaborativo o Abogacía Colaborativa Ámbitos de aplicación y exclusiones La obligación de intentar una solución extrajudicial se aplica a todos los procesos declarativos y especiales regula...
Leer más