El nacimiento del “Estado algorítmico predictivo”: inteligencia artificial, decisiones públicas y transformación del principio de legalidad

Por Santiago Carretero Sánchez
Profesor Titular de la Universidad Rey Juan Carlos

La utilización de inteligencia artificial por los poderes públicos para anticipar comportamientos sociales, necesidades económicas y tendencias administrativas está inaugurando una de las transformaciones más profundas del Derecho público contemporáneo. El debate surgido el 29 de mayo de 2026 en torno al denominado “gemelo digital social” impulsado en Argentina no constituye únicamente una cuestión tecnológica o de modernización administrativa, sino el posible inicio de un nuevo modelo de organización estatal basado en la predicción algorítmica. La novedad jurídica reside en que el Estado ya no se limitaría a reaccionar frente a hechos consumados o a regular conductas existentes, sino que comenzaría a gobernar a partir de modelos predictivos construidos mediante inteligencia artificial y análisis masivo de datos. Esta evolución plantea interrogantes extraordinariamente complejos acerca de los límites constitucionales del poder público en un contexto donde las decisiones administrativas pueden depender crecientemente de inferencias automatizadas sobre comportamientos futuros de la ciudadanía.

El denominado “Estado algorítmico predictivo” representa un cambio estructural en la lógica tradicional del Derecho administrativo. Históricamente, la Administración Pública ha ejercido sus competencias mediante procedimientos reglados, decisiones motivadas y actuaciones sometidas al principio de legalidad. Sin embargo, la incorporación de sistemas de inteligencia artificial capaces de procesar enormes volúmenes de información para identificar patrones sociales, prever conflictos económicos o anticipar demandas colectivas introduce una nueva dimensión decisional basada en probabilidades estadísticas y modelos predictivos. El problema jurídico no radica únicamente en la precisión técnica de estos sistemas, sino en determinar hasta qué punto resulta compatible con el Estado de Derecho que las políticas públicas se orienten mediante inferencias algorítmicas construidas sobre datos masivos. La cuestión es especialmente delicada porque la predicción tecnológica puede terminar sustituyendo progresivamente el análisis político, la deliberación democrática y la valoración jurídica tradicional.

Desde la perspectiva constitucional, uno de los principales riesgos reside en la posible alteración del principio de legalidad administrativa. El Derecho administrativo clásico exige que toda actuación pública se encuentre fundada en normas previas, competencias definidas y procedimientos verificables. Sin embargo, los sistemas predictivos operan frecuentemente mediante modelos de correlación estadística cuya lógica interna puede resultar opaca incluso para los propios responsables públicos que los utilizan. De esta manera, la inteligencia artificial introduce una forma de racionalidad tecnocrática que podría desplazar progresivamente el control jurídico tradicional hacia mecanismos automatizados difíciles de interpretar y supervisar. La preocupación doctrinal no consiste únicamente en la automatización administrativa, sino en el peligro de que la predicción algorítmica termine configurando indirectamente prioridades gubernamentales, distribución de recursos públicos y estrategias regulatorias sin suficiente transparencia democrática.

La transparencia algorítmica aparece, precisamente, como uno de los grandes desafíos jurídicos de este nuevo escenario. Las democracias constitucionales modernas descansan sobre la posibilidad de controlar y fiscalizar la actuación de los poderes públicos. No obstante, cuando las decisiones estatales se fundamentan en sistemas de inteligencia artificial entrenados mediante modelos complejos de aprendizaje automático, resulta extremadamente difícil garantizar un conocimiento claro sobre los criterios que han determinado una concreta actuación administrativa. Este problema adquiere una especial gravedad cuando la inteligencia artificial influye en materias sensibles como seguridad pública, políticas sociales, asignación de ayudas económicas o prevención de conflictos colectivos. La opacidad tecnológica puede generar una nueva forma de poder administrativo difícilmente compatible con las exigencias de motivación, publicidad y control jurisdiccional características del Estado de Derecho contemporáneo.

Otro de los elementos más preocupantes es el riesgo de discriminación indirecta derivado de la utilización de modelos predictivos estatales. Los sistemas de inteligencia artificial aprenden a partir de datos históricos y patrones sociales preexistentes, lo que implica que pueden reproducir desigualdades estructurales ya presentes en la sociedad. En consecuencia, un algoritmo utilizado para anticipar conductas sociales o identificar colectivos “de riesgo” podría terminar reforzando sesgos económicos, territoriales o culturales previamente existentes. Este fenómeno resulta especialmente problemático en el ámbito de las políticas públicas, donde la utilización de predicciones automatizadas podría afectar indirectamente al acceso a prestaciones, controles administrativos o prioridades institucionales. El problema jurídico ya no consiste únicamente en prohibir discriminaciones explícitas, sino en detectar cómo determinadas correlaciones estadísticas aparentemente neutrales pueden producir efectos materialmente discriminatorios sobre grupos concretos de población.

La cuestión afecta igualmente a la propia teoría democrática del Estado. Tradicionalmente, las decisiones políticas han estado vinculadas a procesos deliberativos, debates parlamentarios y mecanismos de representación ciudadana. Sin embargo, el desarrollo de sistemas predictivos capaces de orientar políticas públicas sobre la base de análisis automatizados puede favorecer una progresiva tecnocratización de la acción gubernamental. El riesgo no es solamente técnico, sino profundamente político: que las decisiones públicas comiencen a justificarse más por la eficiencia estadística de los algoritmos que por la legitimidad democrática de las instituciones representativas. En este contexto, el “Estado algorítmico predictivo” podría terminar desplazando parcialmente el fundamento político de la decisión pública hacia modelos automatizados de gestión basados en datos y predicciones probabilísticas.

Desde el punto de vista jurídico-administrativo, todo ello obligará probablemente a redefinir categorías clásicas como motivación, discrecionalidad, control jurisdiccional y responsabilidad patrimonial de la Administración. Si una política pública basada en inteligencia artificial produce daños derivados de errores predictivos o sesgos algorítmicos, resultará necesario determinar quién asume la responsabilidad jurídica correspondiente. Del mismo modo, los tribunales deberán enfrentarse progresivamente al problema de revisar decisiones administrativas apoyadas en sistemas tecnológicos cuya complejidad puede dificultar enormemente el control judicial efectivo. La inteligencia artificial aplicada al ámbito estatal no transforma únicamente las herramientas de gestión pública, sino los propios fundamentos dogmáticos sobre los que se ha construido históricamente el Derecho administrativo moderno.

En definitiva, el surgimiento del denominado “Estado algorítmico predictivo” constituye una de las cuestiones más relevantes y novedosas del actual debate jurídico sobre inteligencia artificial. La utilización de sistemas predictivos por los poderes públicos promete incrementar la eficiencia administrativa y mejorar la capacidad estatal de anticipar problemas sociales y económicos. Sin embargo, esta evolución también introduce riesgos muy significativos para la transparencia democrática, la igualdad, el principio de legalidad y el control jurisdiccional de la Administración. El gran desafío del Derecho contemporáneo consistirá en compatibilizar las ventajas tecnológicas de la inteligencia artificial con la preservación de los principios esenciales del Estado constitucional, evitando que la lógica algorítmica termine sustituyendo progresivamente la racionalidad jurídica y democrática sobre la que descansa el poder público.

Referencias bibliográficas (APA 7.ª edición)

El País. (2026, 23 de mayo). Milei apuesta por la inteligencia artificial para desarrollar políticas públicas en Argentina. El País. https://elpais.com/argentina/2026-05-23/milei-apuesta-por-la-inteligencia-artificial-para-desarrollar-politicas-publicas-en-argentina.html

Pasquale, F. (2020). New laws of robotics: Defending human expertise in the age of AI. Harvard University Press.

Zuboff, S. (2020). La era del capitalismo de la vigilancia. Paidós.

European Commission. (2024). Artificial Intelligence Act. Publications Office of the European Union. https://artificialintelligenceact.eu

Innerarity, D. (2025). Una teoría crítica de la inteligencia artificial. Galaxia Gutenberg.