La tecnología penitenciaria más allá de la inteligencia artificial: el reto de proteger los derechos fundamentales en la nueva era digital

Por Santiago Carretero Sánchez, Profesor Titular de Universidad. Universidad Rey Juan Carlos. Abogado del Ilustre Colegio de la Abogacía de Madrid

---

La transformación digital de la Administración de Justicia ha dejado de ser una cuestión de futuro para convertirse en una realidad cotidiana. Sin embargo, mientras el debate jurídico y político continúa concentrándose casi exclusivamente en la inteligencia artificial, comienza a abrirse paso una reflexión mucho más profunda: ¿es realmente la IA el único riesgo para los derechos fundamentales o, por el contrario, cualquier tecnología capaz de influir en decisiones públicas debe someterse a idénticos estándares de control jurídico?

Precisamente esta cuestión constituye el núcleo de una interesante reflexión publicada hoy en el ámbito jurídico, que invita a ampliar el foco del análisis hacia el conjunto de tecnologías utilizadas para valorar riesgos, predecir comportamientos o asistir la toma de decisiones dentro del sistema penitenciario. La tesis resulta especialmente sugerente porque desplaza el debate desde el instrumento tecnológico hacia aquello que verdaderamente preocupa al Derecho: la protección efectiva de la dignidad humana y de las garantías constitucionales.

En los últimos años, los establecimientos penitenciarios de numerosos países han incorporado herramientas informáticas destinadas a evaluar el riesgo de reincidencia, clasificar internamente a las personas privadas de libertad, determinar programas de tratamiento o facilitar determinadas decisiones administrativas. En muchos casos estas aplicaciones ni siquiera pueden calificarse estrictamente como sistemas de inteligencia artificial en el sentido técnico o jurídico que establece el Reglamento Europeo de Inteligencia Artificial. Se trata, más bien, de complejos modelos estadísticos, sistemas de puntuación o instrumentos automatizados de valoración del riesgo.

Esta circunstancia conduce a una primera conclusión de enorme importancia: el eventual impacto sobre los derechos fundamentales no depende exclusivamente de que exista o no inteligencia artificial. Lo verdaderamente relevante es que una herramienta tecnológica pueda condicionar una decisión administrativa que afecte a la libertad, a la igualdad, al derecho de defensa o al principio de no discriminación. Desde la perspectiva constitucional, el riesgo jurídico nace del efecto de la decisión y no únicamente de la sofisticación tecnológica del instrumento empleado.

En consecuencia, el principio de legalidad exige que toda utilización de sistemas tecnológicos en el ámbito penitenciario quede sometida a reglas claras de transparencia, control administrativo y supervisión judicial. No basta con afirmar que la decisión final corresponde formalmente a un funcionario si, en la práctica, la valoración tecnológica condiciona de manera decisiva el resultado. El denominado automation bias —la tendencia humana a confiar excesivamente en las recomendaciones de un sistema automatizado— constituye hoy uno de los fenómenos más estudiados por la literatura científica y uno de los mayores desafíos para el Derecho Administrativo contemporáneo.

Desde esta perspectiva, el principio de supervisión humana adquiere una dimensión mucho más intensa de la que habitualmente se le atribuye. La intervención de una persona no puede limitarse a refrendar mecánicamente la propuesta elaborada por un sistema tecnológico. Debe existir una auténtica capacidad de comprender el funcionamiento del modelo, valorar críticamente sus resultados, apartarse de ellos cuando resulte necesario y motivar jurídicamente la decisión adoptada. En caso contrario, la supervisión humana se convertiría en una mera ficción incompatible con las exigencias del Estado de Derecho.

La protección de los derechos fundamentales exige igualmente garantizar la transparencia suficiente sobre los criterios utilizados por estos instrumentos tecnológicos. Naturalmente, ello no implica revelar información cuya divulgación pudiera comprometer la seguridad penitenciaria o la eficacia del sistema, pero sí asegurar que la persona afectada pueda conocer cuáles son los factores determinantes de la decisión y disponer de mecanismos efectivos para impugnarla. Sin posibilidad real de contradicción, el derecho a la tutela judicial efectiva pierde buena parte de su contenido.

Especial relevancia adquiere también el principio de no discriminación. Todo sistema de valoración del riesgo construido a partir de datos históricos puede reproducir sesgos presentes en la realidad social o institucional. Si los datos de entrenamiento incorporan desigualdades previas, existe el peligro de que el algoritmo —o incluso un simple sistema estadístico— perpetúe decisiones desfavorables respecto de determinados colectivos. El problema, por tanto, no reside únicamente en la tecnología utilizada, sino en la calidad jurídica y ética de los datos que alimentan el proceso decisorio.

El reciente Reglamento (UE) 2024/1689 sobre Inteligencia Artificial constituye un avance decisivo al establecer obligaciones específicas para determinados sistemas considerados de alto riesgo. No obstante, la reflexión publicada hoy pone acertadamente de manifiesto que el verdadero desafío jurídico va más allá del ámbito de aplicación de dicha norma. Numerosos instrumentos tecnológicos utilizados por las Administraciones Públicas podrían quedar fuera de la definición estricta de inteligencia artificial y, sin embargo, producir consecuencias equivalentes sobre los derechos de los ciudadanos. Esta realidad obliga a interpretar el principio de buena administración desde una perspectiva tecnológica mucho más amplia.

En definitiva, el futuro del Derecho no pasa únicamente por regular la inteligencia artificial, sino por construir un auténtico marco jurídico de gobernanza tecnológica de la Administración Pública. El centro del debate no debe situarse en el nombre de la tecnología empleada, sino en los derechos fundamentales que pueden verse comprometidos por su utilización. La Constitución no protege a las personas frente a los algoritmos; las protege frente a cualquier actuación pública que limite sus derechos sin las debidas garantías.

La digitalización del sistema penitenciario puede aportar indudables ventajas en términos de eficiencia, objetividad y racionalización de recursos. Sin embargo, dichas ventajas únicamente resultarán legítimas si permanecen subordinadas a los principios que caracterizan al Estado constitucional de Derecho: dignidad de la persona, legalidad, transparencia, motivación, proporcionalidad, igualdad y control judicial efectivo. La innovación tecnológica nunca puede convertirse en una excepción al Derecho; debe ser, precisamente, una nueva oportunidad para reforzarlo.

---

Referencias (APA 7.ª edición)

Comisión Europea. (2024). Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial (AI Act). Diario Oficial de la Unión Europea.

Legal Today. (2026, 1 de julio). La tecnología como instrumento para maximizar derechos: por qué no vamos más allá de la IA y los instrumentos de valoración del riesgo.

Naciones Unidas. (2015). Reglas Mínimas de las Naciones Unidas para el Tratamiento de los Reclusos (Reglas Nelson Mandela). Oficina de las Naciones Unidas contra la Droga y el Delito.