La ONU y las líneas rojas de la IA: hacia una gobernanza jurídica global

Santiago Carretero Sánchez, Profesor Titular de la Universidad Rey Juan Carlos, Abogado del Ilustre Colegio de Abogados de Madrid

El 23 de septiembre de 2025 más de un centenar de científicos, dirigentes políticos y expertos en inteligencia artificial solicitaron ante las Naciones Unidas el establecimiento de “líneas rojas” que delimiten usos inadmisibles de la IA. La petición, suscrita también por premios Nobel y referentes académicos, se enmarca en la creciente preocupación por el impacto global de una tecnología que evoluciona más rápido que los marcos regulatorios tradicionales.

Un llamamiento a la comunidad internacional

La singularidad de esta iniciativa radica en que no se trata de un debate técnico aislado, sino de un llamamiento a los Estados para que asuman responsabilidades compartidas. La ONU se presenta como foro idóneo, pues ninguna jurisdicción nacional es capaz de afrontar por sí sola los riesgos transnacionales de la IA: manipulación informativa, sistemas autónomos de armamento, vulneración de derechos fundamentales o discriminación algorítmica.

El trasfondo jurídico

Desde la perspectiva jurídica, este movimiento enlaza con los esfuerzos de la Unión Europea plasmados en el AI Act y con el debate abierto en el Consejo de Europa sobre derechos humanos y algoritmos. Las “líneas rojas” no solo son una metáfora política: exigen definiciones normativas precisas, capaces de señalar qué usos de la IA deben considerarse prohibidos per se, con independencia de eventuales beneficios. Aquí la comparación con el derecho internacional humanitario —donde existen armas y prácticas proscritas— resulta particularmente elocuente.

Retos para juristas y operadores jurídicos

Para los juristas, el reto no consiste únicamente en analizar si los sistemas de IA encajan en categorías previas del Derecho, sino en comprender la necesidad de nuevas categorías jurídicas. Los principios de responsabilidad, diligencia y prevención deben repensarse en clave global. Además, emerge la cuestión de la justiciabilidad internacional: ¿qué tribunal o mecanismo podría sancionar el incumplimiento de estas “líneas rojas”?

Reflexión final

El llamamiento ante la ONU constituye una señal inequívoca: la IA ya no es un mero instrumento técnico, sino un fenómeno con implicaciones directas en el núcleo de la convivencia internacional. El Derecho no puede permanecer a la zaga; debe anticiparse, establecer límites y garantizar que el progreso tecnológico sea compatible con la dignidad humana y la paz mundial.

Santiago Carretero Sánchez