La nueva "Casa de Salomón": ¿Hemos cedido nuestra soberanía a los laboratorios de IA?

 

La nueva "Casa de Salomón": ¿Hemos cedido nuestra soberanía a los laboratorios de IA?

Santiago Carretero Sánchez

Profesor Titular de Filosofía del Derecho de la Universidad Rey Juan Carlos

 

La reflexión sobre si el "Código es Ley" (Code is Law), frase acuñada originalmente por Lawrence Lessig a finales de los 90, ha cobrado una dimensión casi profética en este 2026. Al reflexionar sobre  el análisis del artículo de Bits&Chips, nos adentramos en una de las crisis constitucionales más profundas de la era digital: el desplazamiento de la soberanía estatal hacia la soberanía algorítmica.

En su obra póstuma La Nueva Atlántida (1627), Francis Bacon describió la "Casa de Salomón", una institución científica que operaba de forma autónoma al Estado. Sus miembros decidían qué descubrimientos revelar al público y cuáles mantener en secreto, incluso ante el Rey.

En 2026, los grandes laboratorios de IA (OpenAI, Anthropic, Google, xAI) se han convertido en las Casas de Salomón modernas. No son simples empresas; son centros de poder que poseen el "secreto del fuego" (la AGI o cuasi-AGI). Al igual que en la utopía de Bacon, estos laboratorios están decidiendo unilateralmente los límites morales y operativos de la inteligencia que interactúa con la sociedad, operando en una burbuja de inmunidad técnica que el derecho tradicional no logra penetrar. El gran conflicto que plantea en el artículo que reflexiono es la sustitución de la Justicia Democrática por la Ética de Alineación.

• Justicia Democrática: Se basa en leyes debatidas públicamente, transparentes y sujetas a revisión judicial.
• Ética de Alineación (Constitucionalismo de IA): Son reglas de comportamiento programadas en los modelos mediante técnicas como el RLAIF (Reinforcement Learning from AI Feedback).

El problema filosófico es que estas "constituciones" son dictadas por ingenieros y comités de ética privados. Si una IA decide que un discurso es "dañino" o que una interpretación legal es "incorrecta" basándose en su programación interna, está ejerciendo un acto de jurisdicción sin representación. El "Código" se convierte en una ley que no se puede apelar en un juzgado, porque está grabada en los pesos probabilísticos de la red neuronal.

El artículo de Bits&Chips hace una advertencia escalofriante sobre la objetividad técnica. Cuando un juez humano dicta sentencia, debe motivarla (explicar el porqué). Cuando un algoritmo de IA (usado en seguros, créditos o incluso pre-sentencias judiciales) emite un resultado, lo hace bajo una apariencia de neutralidad matemática.

Sin embargo, esa "objetividad" suele esconder:

• Sesgos de Diseño: Los valores del programador disfrazados de lógica.
• Opacidad Técnica: La imposibilidad de auditar por qué la IA tomó una decisión específica (el problema de la "caja negra").
• Poder Blando: No se necesita una fuerza policial si el sistema, por diseño, te impide acceder a un derecho o a una información. El autoritarismo ya no es una bota que pisa un rostro, sino un error "403 Forbidden" o una respuesta sesgada que moldea tu percepción de la realidad.

 

La conclusión del análisis sugiere que para 2026, el Derecho debe dejar de intentar "regular el uso" (lo cual es reactivo) y empezar a reclamar la soberanía sobre el proceso de creación y me parece una cuestión jurídica de primera magnitud.

Si el código es ley, entonces los ciudadanos deben tener derecho a participar en la "legislación" de ese código. Esto implicaría:

1. Auditoría Democrática de los Modelos: Que los pesos y sesgos de los modelos de impacto general sean revisables por organismos públicos.
2. Derecho a la Explicabilidad: Que ninguna decisión jurídica o administrativa tomada por una IA sea válida si no puede ser desglosada en lenguaje humano natural.
3. Primacía de lo Analógico: Establecer áreas "fuera de los límites de la IA" donde la decisión humana sea la única fuente legítima de autoridad.

El debate de hoy, 12 de marzo de 2026, no es sobre tecnología, sino sobre quién tiene el derecho de decir qué es lo justo. Si permitimos que el código sea la única ley, habremos pasado de una democracia de ciudadanos a una teocracia de algoritmos donde los desarrolladores son los únicos sacerdotes capaces de interpretar la voluntad de la "máquina" y por este artículo es por el que todas esta ideas brotan en el humanismo tecnológico

 

Título: ¿Código es Ley? El desafío de la "Casa de Salomón" en la era de la IA Medio: Bits&Chips (Sección de Análisis y Prospectiva) Fecha de publicación: 11 de marzo de 2026 (Disponible en portada en la edición de hoy, 12 de marzo).