La inteligencia artificial en la Administración de Justicia: análisis jurídico de la nueva Instrucción del CGPJ sobre su uso por jueces y magistrados

 

La inteligencia artificial en la Administración de Justicia: análisis jurídico de la nueva Instrucción del CGPJ sobre su uso por jueces y magistrados

Autor:
Santiago Carretero Sánchez
Titular  de la  Universidad Rey Juan Carlos

---

1. Introducción

El Pleno del Consejo General del Poder Judicial ha aprobado una Instrucción que regula el uso de la inteligencia artificial en la Administración de Justicia, estableciendo un marco normativo vinculante para jueces y magistrados en relación con las herramientas de IA que pueden emplear en su actividad profesional.

La noticia, difundida por Confilegal, pone de relieve la preocupación institucional por garantizar que la incorporación de sistemas de IA generativa no comprometa principios estructurales del Estado de Derecho como la independencia judicial, la responsabilidad personal del juez y la tutela de los derechos fundamentales.

Esta Instrucción se inserta en un contexto europeo y nacional marcado por el Reglamento (UE) 2024/1689 (AI Act) y por diversas normas internas de digitalización de la Justicia, configurando un modelo restrictivo y garantista frente al uso indiscriminado de tecnologías opacas.

---

2. Fundamento normativo y encaje europeo

El texto aprobado por el CGPJ se declara coherente con:

• El Reglamento (UE) 2024/1689, de 13 de junio (Ley Europea de Inteligencia Artificial).
• El Real Decreto 729/2023, de 22 de agosto.
• El Real Decreto-ley 6/2023, de 19 de diciembre.
• El Real Decreto 817/2023, de 8 de noviembre.
• La Política de uso de la IA del Comité Técnico Estatal de la Administración Judicial Electrónica (CTEAJE).

Se observa una clara voluntad de anticipar en el ámbito judicial los principios del AI Act: control humano, transparencia, gestión de riesgos, prohibición de determinados usos y protección reforzada de derechos fundamentales.

---

3. Definiciones técnicas con relevancia jurídica

La Instrucción no se limita a regular conductas, sino que introduce definiciones conceptuales con importantes consecuencias jurídicas:

• Sistema de IA: todo sistema basado en máquinas diseñado para funcionar con distintos niveles de autonomía y capaz de inferir resultados a partir de los datos recibidos.
• Herramientas de IA generativa: sistemas que producen contenidos automatizados conforme a instrucciones del usuario.
• Sesgo algorítmico: desviación sistemática en los resultados producidos por la IA derivada de los datos, modelos o procesos utilizados, susceptible de generar efectos arbitrarios o discriminatorios.

Esta última definición es especialmente relevante, pues asume expresamente que la tecnología no es neutral y puede reproducir desigualdades estructurales, lo que conecta directamente con el principio constitucional de igualdad ante la ley.

---

4. Principios rectores: el control humano efectivo

El eje central de la Instrucción es el llamado principio de control humano efectivo, que exige que los jueces y magistrados mantengan un control real, consciente y continuo sobre cualquier sistema de IA utilizado.

De este principio se derivan varias prohibiciones materiales:

• La IA no puede tomar decisiones judiciales.
• No puede valorar hechos ni pruebas.
• No puede interpretar ni aplicar el Derecho.
• No puede operar de manera autónoma en el proceso jurisdiccional.

Se añade el principio de no sustitución del juez, que refuerza la idea de que la función jurisdiccional es indelegable y personalísima, conforme al artículo 117 de la Constitución.

Junto a estos se proclaman otros principios: independencia judicial, responsabilidad personal, confidencialidad, seguridad de los datos y prevención de sesgos algorítmicos.

---

5. Usos permitidos: apoyo técnico, no decisión jurídica

La Instrucción autoriza únicamente usos instrumentales de la IA, entre los que destacan:

• Búsqueda y localización de información jurídica.
• Recuperación de antecedentes procesales.
• Análisis y clasificación de información.
• Elaboración de esquemas, resúmenes o borradores internos de trabajo.

Los borradores generados por IA nunca pueden constituir resoluciones judiciales finales. Solo se admiten como material auxiliar y siempre bajo revisión crítica, completa y personal del juez o magistrado, que conserva íntegramente la responsabilidad jurídica del contenido.

---

6. Prohibiciones categóricas

El texto establece límites tajantes:

• Prohibición de automatizar o delegar la decisión judicial.
• Prohibición de incorporar contenidos generados por IA sin valoración crítica personal.
• Prohibición del tratamiento de datos especialmente protegidos o sujetos a confidencialidad reforzada.
• Prohibición del perfilado de personas, predicción de comportamientos, evaluación de riesgos o clasificación de sujetos.

Estas prohibiciones conectan directamente con la doctrina constitucional sobre la motivación de las resoluciones judiciales y con el derecho fundamental a un proceso con todas las garantías.

---

7. Valoración jurídica

La Instrucción del CGPJ configura un modelo de IA asistencial, no decisional, que prioriza la garantía procesal frente a la eficiencia tecnológica. El requisito de autorización previa y auditoría de los sistemas pretende impedir la entrada en el ámbito jurisdiccional de algoritmos opacos, no explicables o entrenados con datos de origen desconocido.

Desde una perspectiva doctrinal, el texto supone:

• Un reconocimiento explícito del riesgo jurídico de la IA generativa.
• Una afirmación de la centralidad del juez como sujeto responsable.
• Una anticipación práctica del principio europeo de “human-in-the-loop”.

Queda abierta la cuestión de si este marco normativo será suficiente para equilibrar innovación tecnológica y garantías constitucionales, o si, por el contrario, deberá evolucionar hacia modelos más complejos de certificación, trazabilidad y explicabilidad algorítmica.

---

8. Fuente informativa

La presente entrada se basa en la información publicada por Confilegal sobre la aprobación de la Instrucción del Consejo General del Poder Judicial relativa al uso de la inteligencia artificial en la Administración de Justicia.

---