La gobernanza corporativa de la inteligencia artificial entra en una nueva dimensión jurídica: el AI Act y la ISO/IEC 42001 redefinen el deber de diligencia empresarial

 


La gobernanza corporativa de la inteligencia artificial entra en una nueva dimensión jurídica: el AI Act y la ISO/IEC 42001 redefinen el deber de diligencia empresarial

Santiago Carretero Sánchez
Profesor Titular de Filosofía del Derecho. Universidad Rey Juan Carlos
Abogado del Ilustre Colegio de la Abogacía de Madrid

La inteligencia artificial ha dejado de ser una cuestión reservada a los departamentos tecnológicos para convertirse en un auténtico asunto de gobierno corporativo. La progresiva aplicación del Reglamento (UE) 2024/1689, por el que se establecen normas armonizadas en materia de inteligencia artificial (AI Act), unida a la creciente implantación de la norma internacional ISO/IEC 42001:2023, está modificando profundamente la forma en que las organizaciones deben diseñar, supervisar y controlar los sistemas de IA que desarrollan, adquieren o utilizan en su actividad.

En las últimas semanas numerosos especialistas en cumplimiento normativo y derecho tecnológico han puesto de relieve que las obligaciones derivadas del AI Act ya no pueden entenderse como exigencias puramente técnicas. La identificación de riesgos, la documentación del ciclo de vida del sistema, la trazabilidad de las decisiones automatizadas, la supervisión humana efectiva y la implantación de procedimientos internos de control constituyen hoy auténticos deberes jurídicos cuya observancia corresponde, en último término, a los órganos de administración de las organizaciones.

Esta evolución supone un cambio de paradigma. Durante años la gobernanza de la inteligencia artificial fue considerada una cuestión de buenas prácticas o de responsabilidad social corporativa. Sin embargo, el legislador europeo ha optado por transformar esas recomendaciones en obligaciones jurídicas exigibles, especialmente respecto de los sistemas clasificados como de alto riesgo. Ello implica que la dirección de las empresas ya no puede limitarse a delegar las decisiones tecnológicas, sino que debe integrar la gestión del riesgo algorítmico dentro de sus políticas generales de cumplimiento, auditoría y control interno.

En este contexto adquiere una especial relevancia la ISO/IEC 42001:2023, primer estándar internacional dedicado específicamente a los Sistemas de Gestión de la Inteligencia Artificial (Artificial Intelligence Management System, AIMS). Aunque se trata de una norma de carácter voluntario, su importancia práctica es creciente porque proporciona una metodología estructurada para implantar procesos de gobernanza compatibles con las exigencias regulatorias europeas.

La ISO/IEC 42001 no regula la inteligencia artificial desde una perspectiva sustantiva, como hace el AI Act, sino desde la óptica organizativa. Establece procedimientos destinados a garantizar que la utilización de sistemas de IA responda a principios de responsabilidad, transparencia, seguridad, mejora continua y evaluación permanente de riesgos. En otras palabras, ofrece a las organizaciones un marco operativo para demostrar que la inteligencia artificial se encuentra sometida a mecanismos efectivos de control.

La complementariedad entre ambos instrumentos resulta evidente. Mientras el AI Act determina las obligaciones jurídicas aplicables a proveedores, importadores, distribuidores y responsables del despliegue de sistemas de inteligencia artificial, la ISO/IEC 42001 facilita la implantación práctica de una estructura de gobernanza capaz de acreditar el cumplimiento de dichas obligaciones. No existe una equivalencia automática entre certificación y conformidad normativa, pero sí una evidente convergencia entre ambos modelos regulatorios.

Desde la perspectiva del Derecho mercantil y del gobierno corporativo, esta realidad presenta consecuencias especialmente relevantes. El deber general de diligencia de los administradores sociales comienza a proyectarse sobre la gestión del riesgo algorítmico. La ausencia de mecanismos adecuados de supervisión podría generar responsabilidades cuando la utilización de un sistema de IA produzca daños económicos, discriminaciones, vulneraciones de derechos fundamentales o incumplimientos regulatorios previsibles.

Asimismo, el cumplimiento deja de concebirse como una actuación puntual para convertirse en un proceso continuo. La evaluación permanente del funcionamiento de los modelos, la revisión de los datos utilizados para su entrenamiento, la monitorización de incidencias y la actualización de los procedimientos internos constituyen elementos esenciales de una gobernanza responsable de la inteligencia artificial.

Para las universidades y, en particular, para las Facultades de Derecho, esta evolución posee además una evidente dimensión docente. La formación de los futuros juristas exige comprender que la regulación de la inteligencia artificial ya no se limita al estudio del AI Act, sino que incorpora estándares internacionales de gestión, metodologías de auditoría, sistemas de cumplimiento normativo y mecanismos de control organizativo que condicionarán la actividad de empresas y Administraciones Públicas durante los próximos años.

En definitiva, la inteligencia artificial entra en una nueva fase de madurez jurídica. La cuestión ya no consiste únicamente en desarrollar modelos técnicamente eficientes, sino en demostrar que dichos sistemas se gobiernan conforme a procedimientos verificables, transparentes y compatibles con el Estado de Derecho. En este escenario, el Reglamento (UE) 2024/1689 y la ISO/IEC 42001:2023 se perfilan como los dos pilares normativos sobre los que se asentará la futura gobernanza jurídica de la inteligencia artificial en Europa.

Referencias (APA 7.ª edición)

  • International Organization for Standardization & International Electrotechnical Commission. (2023). ISO/IEC 42001:2023. Information technology—Artificial intelligence—Management system. ISO.
  • Parlamento Europeo y Consejo. (2024). Reglamento (UE) 2024/1689, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial (AI Act). Diario Oficial de la Unión Europea, L 1689, de 12 de julio de 2024.
  • European Commission. (2025). Guidelines on the implementation of the AI Act. Comisión Europea.
  • International Organization for Standardization. (2024). ISO/IEC 42001 Handbook: Artificial Intelligence Management Systems. ISO.

Comentarios

Publicar un comentario

Entradas populares de este blog

ESQUEMA DETALLADO DE ESCRITO AJUSTADO AL MASC (PARA LETRADOS)

  🧷 ESQUEMA DETALLADO DE ESCRITO AJUSTADO AL MASC (PARA LETRADOS) Por Santiago Carretero Sánchez, Profesor Titular de Filosofía del Derecho, Abogado       1. Encabezamiento Órgano judicial : Ilmo./a. Sr./Sra. Letrado/a de la Administración de Justicia del Juzgado de [Primera Instancia] nº ___ de [localidad]. Parte compareciente : D./D.ª [Nombre del letrado/a del solicitante], en nombre y representación de [cliente], conforme a poder/apoderamiento (notarial o apud acta) que se acompaña/se encuentra ya incorporado. Procedimiento : Indicar si es escrito autónomo previo a demanda o subsanación de requerimiento judicial (art. 438.1 LEC). 2. Exposición de antecedentes y hechos relevantes Breve reseña del conflicto : Detallar la controversia con hechos jurídicamente relevantes. Indicación de la voluntad de acudir a MASC : Expresar que, antes de iniciar/reanudar el procedimiento jud...
Leer más

EL MODELO DE INTENTO DE CONCILIACIÓN QUE IMPONE LA LEY DE EFICIENCIA PROCESAL, PROPUESTA DEL ICAM

  MODELO PARA LA ACREDITACIÓN DEL INTENTO DE NEGOCIACIÓN Y TERMINACIÓN DEL PROCESO SIN ACUERDO Artículo 10º.1 de la Ley Orgánica 1/2025, de 2 de enero, de medidas en materia de eficiencia del Servicio Público de Justicia     Artículo 10. Acreditación del intento de negociación y terminación del proceso sin acuerdo.   1. A los efectos de acreditar que se ha intentado una actividad negociadora previa y cumplir el requisito de procedibilidad, dicha actividad negociadora o el intento de la misma deberá ser recogida documentalmente .   2. Si no hubiera intervenido una tercera persona neutral, la acreditación se cumplirá mediante cualquier documento firmado por ambas partes en el que se deje constancia de la identidad de las mismas y, en su caso, de las personas profesionales o expertas que hayan participado asesorándolas , la fecha, el objeto de la controversia, la fecha de la reunión o reuniones mantenidas, en su caso, y la declaración responsable d...
Leer más

La justicia frente a las “alucinaciones jurídicas”: una advertencia global desde la Corte Suprema de Colombia

Imagen
  La justicia frente a las “alucinaciones jurídicas”: una advertencia global desde la Corte Suprema de Colombia Por el Profesor Santiago Carretero, Profesor Titular de Filosofía del Derecho de la Universidad Rey Juan Carlos La sentencia  STC 17832-2025 , dictada por la Corte Suprema de Justicia de Colombia el 5 de noviembre de 2025, constituye uno de los pronunciamientos más relevantes en materia de motivación judicial y uso de tecnologías generativas en la función jurisdiccional. Su impacto trasciende el caso concreto: introduce en el lenguaje jurídico el riesgo de las  alucinaciones jurídicas  y marca un estándar de diligencia para cualquier tribunal que utilice herramientas tecnológicas en la elaboración de sus decisiones. 1. El caso: cuando una decisión se funda en citas inexistentes La Corte conoció una acción de tutela contra una sentencia del Tribunal Superior de Sincelejo cuya motivación incluía citas jurisprudenciales atribuidas a decisiones previas —entre e...
Leer más