Justicia Predictiva en Estados Unidos: Avances, Desafíos y Perspectivas

 

Justicia Predictiva en Estados Unidos:

Avances, Desafíos y Perspectivas

Por: Santiago Carretero Sánchez

Profesor Titular de Derecho Penal, Universidad Rey Juan Carlos

Abogado del Ilustre Colegio de Abogados de Madrid

Introducción

La Justicia Predictiva ha emergido como una herramienta clave en la transformación del sistema judicial estadounidense, especialmente en el ámbito penal. Su propósito es asistir en la toma de decisiones mediante el análisis de datos históricos y algoritmos de aprendizaje automático. Sin embargo, su implementación ha generado debates sobre su eficacia, equidad y conformidad con los derechos constitucionales.

1. Implementación de la Justicia Predictiva en EE.UU.

Desde 2023, varios estados han adoptado herramientas de evaluación de riesgos para predecir la probabilidad de reincidencia de los delincuentes y determinar sentencias más informadas. Estas herramientas, como el sistema COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), se basan en algoritmos que analizan factores como antecedentes penales, edad y comportamiento delictivo.

Según un informe del Departamento de Justicia de EE.UU., estas herramientas se han implementado en varios estados con el objetivo de reducir la población carcelaria y mejorar la consistencia en las decisiones judiciales. Sin embargo, estudios han señalado que algunos de estos sistemas pueden perpetuar sesgos raciales y socioeconómicos, ya que se entrenan con datos históricos que reflejan desigualdades existentes en el sistema judicial.

2. Regulación y Supervisión Legislativa

En respuesta a las preocupaciones sobre la Justicia Predictiva, varios legisladores han instado al Departamento de Justicia de EE.UU. a suspender la financiación de herramientas de policía predictiva hasta que se pueda garantizar que no tengan un impacto discriminatorio. En enero de 2024, un grupo de legisladores escribió al DOJ solicitando que se detuvieran todas las subvenciones para sistemas de policía predictiva hasta que el DOJ pueda garantizar que los destinatarios de las subvenciones no utilicen estos sistemas de manera que tengan un impacto discriminatorio.

Además, el 30 de octubre de 2023, el presidente Biden emitió la Orden Ejecutiva 14110 sobre el Desarrollo y Uso Seguro, Seguro y Confiable de la Inteligencia Artificial. Esta orden establece principios para la implementación de la IA en el gobierno federal, incluyendo la necesidad de garantizar la equidad, la transparencia y la responsabilidad en el uso de tecnologías de IA.

3. Desafíos Éticos y Constitucionales

La adopción de la Justicia Predictiva ha suscitado preocupaciones sobre la equidad y la transparencia. En el caso Loomis v. Wisconsin (2016), la Corte Suprema de Wisconsin permitió el uso del sistema COMPAS en la determinación de sentencias, a pesar de las críticas sobre la falta de transparencia en su algoritmo. Aunque la Corte Suprema de EE.UU. no revisó el caso, la decisión generó un debate sobre la compatibilidad de estos sistemas con los derechos constitucionales, especialmente en relación con el debido proceso y la protección contra la discriminación.

Además, un artículo publicado en el Journal of Human Rights and Legal Review en enero de 2025 examina si los algoritmos de policía predictiva pueden coexistir con las protecciones constitucionales, particularmente bajo la Cláusula de Igualdad de Protección de la Decimocuarta Enmienda. El artículo destaca que si la policía predictiva apunta desproporcionadamente a ciertas comunidades basadas en datos defectuosos, corre el riesgo de socavar los principios de equidad y justicia que busca promover.

4. Perspectivas Futuras

A pesar de los desafíos, la Justicia Predictiva continúa siendo una herramienta valiosa en la reforma del sistema de justicia penal de EE.UU. Los avances en la transparencia algorítmica, la supervisión judicial y la capacitación de los profesionales del derecho son esenciales para mitigar los riesgos asociados y garantizar que estas herramientas se utilicen de manera justa y efectiva.

Referencias

Artificial Intelligence and Criminal Justice, Final Report (2024). Departamento de Justicia de EE.UU. Recuperado de: https://www.justice.gov/olp/media/1381796/dl

Law Enforcement Use of Artificial Intelligence and Its Impact on Civil Liberties (2023). Congressional Research Service. Recuperado de: https://www.congress.gov/crs-product/IN12289

Algorithmic Justice or Bias: Legal Implications of Predictive Policing Algorithms in Criminal Justice (2025). Journal of Human Rights and Legal Review. Recuperado de: https://jhulr.org/2025/01/01/algorithmic-justice-or-bias-legal-implications-of-predictive-policing-algorithms-in-criminal-justice/

Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence (2023). Federal Register. Recuperado de: https://www.federalregister.gov/documents/2023/11/01/2023-24283/safe-secure-and-trustworthy-development-and-use-of-artificial-intelligent

5. Comparación Internacional

La Justicia Predictiva ha sido explorada en otros países como Reino Unido, Canadá y Alemania, donde se han implementado sistemas similares con distintos niveles de supervisión judicial y transparencia.

En Alemania, por ejemplo, se ha priorizado la protección de datos personales y la supervisión judicial estricta, mientras que en Canadá se han desarrollado marcos éticos para el uso de IA en el sistema judicial.

6. Derechos Fundamentales Implicados

El uso de algoritmos predictivos plantea interrogantes sobre el respeto a derechos fundamentales como el debido proceso, la presunción de inocencia y la igualdad ante la ley.

Organizaciones de derechos humanos han advertido sobre el riesgo de discriminación algorítmica y la necesidad de garantizar mecanismos de apelación y revisión judicial.

7. Casos Recientes y Jurisprudencia

Además del caso Loomis v. Wisconsin, se han presentado demandas en California y Nueva York cuestionando el uso de algoritmos en decisiones judiciales sin transparencia ni supervisión adecuada.

Estas demandas han impulsado reformas legislativas y la creación de comités de ética para evaluar el uso de IA en el sistema judicial.

8. Propuestas de Reforma

Expertos han propuesto la creación de marcos regulatorios específicos para la Justicia Predictiva, incluyendo auditorías independientes, transparencia algorítmica y participación ciudadana.

También se sugiere la inclusión de formación en ética digital para jueces y abogados, así como la colaboración interdisciplinaria entre juristas, ingenieros y sociólogos.

9. Reflexión Filosófico-Jurídica

La Justicia Predictiva plantea un dilema entre eficiencia y justicia. ¿Puede un algoritmo comprender la complejidad moral de cada caso?

Desde una perspectiva filosófica, se cuestiona si la delegación de decisiones judiciales a sistemas automatizados erosiona la humanidad del derecho y la capacidad de empatía del juez.