El Derecho ante la inteligencia artificial que aprende a mejorarse a sí misma: la necesidad de un principio jurídico de precaución

Santiago Carretero Sánchez
Profesor Titular de Filosofía del Derecho. Universidad Rey Juan Carlos 

Uno de los debates más innovadores surgidos en torno a la inteligencia artificial durante 2026 se refiere a la posibilidad de que futuros sistemas sean capaces de mejorar autónomamente sus propias capacidades mediante procesos sucesivos de autoaprendizaje. Este fenómeno, denominado Recursive Self-Improvement (RSI), ha reabierto una discusión que trasciende la regulación actual de la inteligencia artificial y se adentra en cuestiones propias de la Filosofía del Derecho y del Derecho del riesgo.

Aunque estas hipótesis todavía pertenecen al terreno de la investigación avanzada, autores clásicos como Irving John Good ya anticiparon en 1965 la posibilidad de una «explosión de inteligencia», consistente en que una máquina suficientemente avanzada pudiera diseñar otras todavía más inteligentes. Décadas después, Nick Bostrom desarrolló esta idea en su obra Superintelligence, advirtiendo sobre los riesgos derivados de sistemas cuyas capacidades pudieran superar ampliamente las humanas.

Por su parte, Stuart Russell ha defendido que el principal desafío no reside en impedir el progreso tecnológico, sino en garantizar que las futuras inteligencias artificiales permanezcan alineadas con los valores y los intereses humanos. En la misma línea, investigadores como Yoshua Bengio, Geoffrey Hinton y Max Tegmark han insistido en la necesidad de establecer mecanismos internacionales de supervisión para los sistemas más avanzados.

Desde una perspectiva jurídica, estas reflexiones invitan a reconsiderar el alcance del principio de precaución, consolidado inicialmente en el Derecho ambiental y posteriormente extendido a otros ámbitos tecnológicos. Este principio permite adoptar medidas preventivas cuando existen indicios razonables de riesgos potencialmente graves, aun cuando no exista una certeza científica absoluta acerca de su materialización. Su aplicación al ámbito de la inteligencia artificial avanzada no supone una actitud contraria a la innovación, sino una manifestación de la función anticipadora que históricamente ha desempeñado el Derecho.

El vigente Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial, constituye un hito normativo fundamental en la construcción de un marco jurídico para los sistemas de alto riesgo. Sin embargo, la regulación europea se encuentra esencialmente orientada a los riesgos presentes y no contempla todavía de manera específica las consecuencias derivadas de eventuales procesos de autoevolución de sistemas altamente avanzados.

En consecuencia, es posible que las futuras generaciones normativas deban incorporar nuevas categorías jurídicas relacionadas con la autonomía creciente de las máquinas inteligentes y con los mecanismos de supervisión y control necesarios para preservar los principios fundamentales del Estado de Derecho. En este contexto, el principio de precaución puede convertirse en uno de los instrumentos más relevantes para compatibilizar el desarrollo tecnológico con la protección de la persona y de los derechos fundamentales.

Referencias bibliográficas

Bostrom, N. (2014). Superintelligence: Paths, Dangers, Strategies. Oxford University Press.

Good, I. J. (1965). Speculations Concerning the First Ultraintelligent Machine. Advances in Computers, 6, 31-88.

Russell, S. (2019). Human Compatible: Artificial Intelligence and the Problem of Control. Viking.

Tegmark, M. (2017). Life 3.0: Being Human in the Age of Artificial Intelligence. Knopf.

Bengio, Y. (2024). International Scientific Report on the Safety of Advanced AI. Government of the United Kingdom.

Parlamento Europeo y Consejo de la Unión Europea. (2024). Reglamento (UE) 2024/1689, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial. Diario Oficial de la Unión Europea, L, 12 de julio de 2024.