¿Psicópatas digitales? La reserva de humanidad frente a la automatización de decisiones públicas

 ¿Psicópatas digitales? La reserva de humanidad frente a la automatización de decisiones públicas​

 Por Santiago Carretero Sánchez, Profesor Titular de Filosofía del Derecho, Abogado del Ilustre Colegio de la Abogacía de Madrid

 

 

La reciente afirmación del catedrático Juli Ponce Solé, calificando a las máquinas de inteligencia artificial (IA) como "psicópatas" debido a su carencia de empatía, ha reavivado el debate sobre el papel de la IA en la toma de decisiones administrativas. Ponce Solé aboga por una "reserva de humanidad" en funciones críticas, subrayando la necesidad de mantener la supervisión humana en procesos que afectan derechos fundamentales. ​El País es la fuente desde la que consultamos el texto. Vamos a sus ideas centrales muy interesantes:

 

1. La naturaleza de la IA y la empatía: Ponce Solé sostiene que la IA, al carecer de emociones, no puede tomar decisiones justas que afecten a humanos, lo que las convierte en entidades incapaces de comprender el contexto humano necesario para decisiones sensibles.
2. La "reserva de humanidad": Este concepto propone limitar el uso de la IA en áreas donde las decisiones requieren juicio humano, como en la justicia o la concesión de créditos, para garantizar que se consideren factores cualitativos y contextuales que las máquinas no pueden evaluar adecuadamente.
3. Implicaciones legales y éticas: La implementación de la IA en la administración pública plantea desafíos legales, especialmente en cuanto a la transparencia de los algoritmos y el derecho de los ciudadanos a comprender las decisiones que les afectan. La falta de protocolos éticos en administraciones y universidades agrava esta problemática.
4. El reglamento europeo de IA de 2024: Este reglamento busca establecer un marco legal para el uso de la IA, enfatizando la necesidad de supervisión humana y la protección de los derechos fundamentales en la toma de decisiones automatizadas.

Conclusión:​

La integración de la IA en la administración pública debe hacerse con cautela, asegurando que se mantenga una "reserva de humanidad" en funciones críticas. Es esencial establecer protocolos éticos y legales que garanticen la transparencia, la supervisión humana y la protección de los derechos fundamentales en la era digital, es por ello que el predicamento del llamado “Humanismo tecnológico” a mi juicio, sigue siendo importante en toda la comunidad jurídica y científica.

 

 

 

Referencias del profesor Ponce:​

• Ponce Solé, J. (2024). El Reglamento de Inteligencia Artificial de la Unión Europea de 2024, el derecho a una buena administración digital y su control judicial en España. Marcial Pons.​
• Ponce Solé, J. (2024). Inteligencia artificial, decisiones administrativas discrecionales totalmente automatizadas y alcance del control judicial: ¿Indiferencia, insuficiencia o deferencia?. Revista de Derecho Público: Teoría y Método, 9, 171-220.​
• Ponce Solé, J. (2019). Inteligencia artificial, Derecho administrativo y reserva de humanidad: algoritmos y procedimiento administrativo debido tecnológico. Revista General de Derecho Administrativo, 50.
• www.colex.es
• Si este tema interesa, Humanismo tecnológico: Justicia predictiva y derechos humanos en el futuro digital, Santiago Carretero Sánchez, Colex, 2025.