IA sin ley: el eslabón débil de la gobernanza empresarial

 

IA sin ley: el eslabón débil de la gobernanza empresarial

🧠 Tiempo de lectura: 6 minutos

Publicado el 14 de julio de 2025
Por Santiago Carretero, Profesor Titular de Filosofía del Derecho, Universidad Rey Juan Carlos
Fuente: Help Net Security, “AI governance risks are business and legal risks” (14/07/2025)

🔎 Contexto

La Inteligencia Artificial ha irrumpido con fuerza en el entorno corporativo. Sin embargo, muchas organizaciones están priorizando la eficiencia operativa frente a la seguridad jurídica. Esta es la principal advertencia que lanza el “AI Trust Report 2025” elaborado por Zendesk, y publicado el 14 de julio de 2025 en Help Net Security.

⚖️ Contenido de la alerta

El informe se basa en datos obtenidos de más de 1.200 empresas globales. Los resultados son inquietantes desde el punto de vista jurídico:

  • Sólo el 32 % de las empresas consultadas cuenta con protocolos legales de control sobre sus sistemas de IA.

  • Más del 65 % no ha realizado auditorías jurídicas o de ciberseguridad sobre los modelos de IA implantados.

  • El 71 % de los responsables legales considera que la IA se ha implementado sin consulta previa a los departamentos jurídicos.

  • La mayoría desconoce el impacto del Reglamento Europeo de Inteligencia Artificial (AI Act), incluso cuando sus operaciones se desarrollan en territorio de la UE.

🧩 Riesgos legales identificados

El informe pone de relieve que la falta de gobernanza legal de la IA no es solo una cuestión de cumplimiento normativo, sino una vulnerabilidad crítica con las siguientes consecuencias:

  • Riesgo de infracción del principio de transparencia algorítmica.

  • Posible tratamiento ilícito de datos personales, infringiendo el RGPD.

  • Desprotección ante sesgos algorítmicos, con impacto reputacional y sancionador.

  • Exposición a litigios civiles, por decisiones automatizadas no justificadas.

  • Incumplimiento de cláusulas contractuales con terceros al incorporar IA sin garantías.

📚 Marco normativo aplicable

Entre las normas más relevantes citadas por el estudio o inferidas del contexto jurídico destacan:

  • Reglamento (UE) 2024/1083 sobre Inteligencia Artificial (AI Act)

  • Reglamento General de Protección de Datos (UE) 2016/679 (RGPD)

  • Directiva (UE) 2019/1937 sobre protección de los denunciantes (whistleblowers)

  • Principios de ética de la IA de la OCDE y UNESCO

👨‍⚖️ Reflexión final

El informe de Zendesk pone en evidencia una tendencia preocupante: muchas empresas abordan la IA como un simple avance técnico, sin interiorizar que la legalidad y la ética deben acompañar su desarrollo desde el inicio (principio de compliance by design).
No basta con innovar: es imprescindible gobernar jurídicamente los algoritmos para garantizar la confianza, la responsabilidad y la sostenibilidad.

Comentarios

Publicar un comentario

Entradas populares de este blog

EL MODELO DE INTENTO DE CONCILIACIÓN QUE IMPONE LA LEY DE EFICIENCIA PROCESAL, PROPUESTA DEL ICAM

  MODELO PARA LA ACREDITACIÓN DEL INTENTO DE NEGOCIACIÓN Y TERMINACIÓN DEL PROCESO SIN ACUERDO Artículo 10º.1 de la Ley Orgánica 1/2025, de 2 de enero, de medidas en materia de eficiencia del Servicio Público de Justicia     Artículo 10. Acreditación del intento de negociación y terminación del proceso sin acuerdo.   1. A los efectos de acreditar que se ha intentado una actividad negociadora previa y cumplir el requisito de procedibilidad, dicha actividad negociadora o el intento de la misma deberá ser recogida documentalmente .   2. Si no hubiera intervenido una tercera persona neutral, la acreditación se cumplirá mediante cualquier documento firmado por ambas partes en el que se deje constancia de la identidad de las mismas y, en su caso, de las personas profesionales o expertas que hayan participado asesorándolas , la fecha, el objeto de la controversia, la fecha de la reunión o reuniones mantenidas, en su caso, y la declaración responsable d...
Leer más

ESQUEMA DETALLADO DE ESCRITO AJUSTADO AL MASC (PARA LETRADOS)

  🧷 ESQUEMA DETALLADO DE ESCRITO AJUSTADO AL MASC (PARA LETRADOS) Por Santiago Carretero Sánchez, Profesor Titular de Filosofía del Derecho, Abogado       1. Encabezamiento Órgano judicial : Ilmo./a. Sr./Sra. Letrado/a de la Administración de Justicia del Juzgado de [Primera Instancia] nº ___ de [localidad]. Parte compareciente : D./D.ª [Nombre del letrado/a del solicitante], en nombre y representación de [cliente], conforme a poder/apoderamiento (notarial o apud acta) que se acompaña/se encuentra ya incorporado. Procedimiento : Indicar si es escrito autónomo previo a demanda o subsanación de requerimiento judicial (art. 438.1 LEC). 2. Exposición de antecedentes y hechos relevantes Breve reseña del conflicto : Detallar la controversia con hechos jurídicamente relevantes. Indicación de la voluntad de acudir a MASC : Expresar que, antes de iniciar/reanudar el procedimiento jud...
Leer más

Resumen de la Ley Orgánica 1/2025: mi nuevo resumen para comprender lo que va a pasar ( si es posible)

  Autor: Santiago Carretero Sánchez, Profesor Titular de la URJC El 3 de abril de 2025 entró en vigor la Ley Orgánica 1/2025, que establece la obligatoriedad de intentar un Mecanismo Alternativo de Solución de Conflictos (MASC) antes de interponer una demanda en el ámbito civil o mercantil. El Consejo General de la Abogacía Española (CGAE) ha publicado una guía para facilitar la comprensión y aplicación de esta nueva exigencia legal. ¿Qué son los MASC? La Ley Orgánica 1/2025 define los MASC de forma abierta como cualquier actividad negociadora para resolver un conflicto. Entre los MASC reconocidos se incluyen: - Mediación - Conciliación (pública o privada) - Negociación directa entre las partes - Oferta vinculante confidencial - Opinión de persona experta independiente - Derecho Colaborativo o Abogacía Colaborativa Ámbitos de aplicación y exclusiones La obligación de intentar una solución extrajudicial se aplica a todos los procesos declarativos y especiales regula...
Leer más