Los desafíos jurídicos de la inteligencia artificial autónoma: riesgos y regulación

Santiago Carretero Sánchez 

Profesor Titular de Filosofía del Derecho, Abogado 

El desarrollo de la inteligencia artificial (IA) autónoma ha generado un intenso debate sobre sus implicaciones jurídicas y éticas. En un reciente artículo de Computer Hoy, los expertos Max Tegmark (MIT) y Yoshua Bengio (Universidad de Montreal) alertan sobre los peligros de que estos sistemas superen la inteligencia humana sin una regulación adecuada. La posibilidad de que una IA tome decisiones sin supervisión efectiva plantea riesgos tanto en términos de seguridad como de garantía de derechos fundamentales.

Desde una perspectiva jurídico-penal, la atribución de responsabilidad en caso de acciones ilícitas de una IA autónoma es un desafío inédito. La ausencia de control humano directo dificulta la determinación de la responsabilidad penal o civil, lo que obliga a repensar el marco normativo vigente. Una solución podría ser la imposición de obligaciones estrictas a los desarrolladores y operadores de estos sistemas, garantizando que sus decisiones respeten el ordenamiento jurídico.

Asimismo, la capacidad de la IA para establecer sus propios objetivos, junto con la posibilidad de que desarrolle mecanismos de autopreservación, incrementa la necesidad de un control normativo preventivo. La legislación debe prever restricciones programadas en el código fuente de estos sistemas, asegurando que su funcionamiento se mantenga dentro de límites jurídicamente aceptables y alineados con la tutela de los derechos humanos.

En conclusión, el avance de la inteligencia artificial autónoma exige una regulación integral que establezca estándares de seguridad, defina los límites de actuación de estos sistemas y garantice la supervisión humana constante. Solo mediante un marco normativo sólido será posible mitigar los riesgos asociados y preservar la primacía del derecho en la era de la IA.