¿Puede un juez utilizar inteligencia artificial? La Instrucción del CGPJ y el nuevo principio de supervisión humana

Santiago Carretero Sánchez
Profesor Titular de Filosofía del Derecho. Universidad Rey Juan Carlos

La irrupción de la inteligencia artificial generativa en la práctica jurídica ha dejado de ser una hipótesis de futuro para convertirse en una realidad cotidiana. Abogados, fiscales, profesores universitarios y funcionarios utilizan ya sistemas capaces de localizar jurisprudencia, resumir documentos, elaborar borradores o comparar argumentos jurídicos en cuestión de segundos. Resultaba inevitable que esta transformación alcanzara también a la Administración de Justicia. Sin embargo, cuando quien utiliza estas herramientas es un juez, la cuestión deja de ser exclusivamente tecnológica para convertirse en un problema constitucional. Precisamente por ello, la reciente Instrucción aprobada por el Consejo General del Poder Judicial (CGPJ) constituye uno de los documentos institucionales más relevantes publicados en España sobre la utilización responsable de la inteligencia artificial en el ejercicio de la función jurisdiccional.

La importancia de esta Instrucción no reside en autorizar o prohibir el uso de la inteligencia artificial, sino en definir los límites dentro de los cuales dicha utilización resulta compatible con los principios que informan el Estado de Derecho. El CGPJ parte de una premisa esencial: la inteligencia artificial puede ser una herramienta de apoyo para determinadas tareas auxiliares, pero nunca puede sustituir el juicio jurídico del magistrado ni interferir en la independencia con la que debe adoptar sus decisiones. El razonamiento judicial continúa siendo una actividad estrictamente humana, inseparable de la responsabilidad constitucional que corresponde a quien ejerce la potestad jurisdiccional.

Esta afirmación conecta directamente con uno de los principios estructurales del Reglamento Europeo de Inteligencia Artificial (AI Act): la supervisión humana efectiva. La normativa europea insiste en que los sistemas de inteligencia artificial, incluso aquellos considerados de elevada fiabilidad, deben permanecer sometidos al control permanente de personas con capacidad real para comprender, revisar y, en su caso, corregir los resultados generados por la máquina. El CGPJ traslada este principio al ámbito judicial con una contundencia especialmente significativa: ninguna resolución puede fundamentarse exclusivamente en contenidos elaborados por una inteligencia artificial sin que el juez haya realizado una revisión crítica, consciente y completa de toda la argumentación incorporada al texto.

Esta exigencia adquiere una enorme trascendencia práctica. Los actuales modelos de inteligencia artificial poseen una extraordinaria capacidad para redactar textos jurídicos formalmente impecables, sintetizar doctrina o localizar precedentes jurisprudenciales. Sin embargo, esa solvencia lingüística no equivale a una auténtica comprensión del Derecho. Los modelos generativos trabajan sobre probabilidades estadísticas y no sobre razonamientos jurídicos en sentido estricto. De ahí que puedan producir errores de interpretación, citar resoluciones inexistentes o construir argumentos aparentemente convincentes pero materialmente incorrectos. La experiencia acumulada durante los últimos años ha demostrado que el denominado fenómeno de las alucinaciones constituye un riesgo real cuando estas herramientas se utilizan sin una adecuada supervisión profesional.

Desde esta perspectiva, la Instrucción del CGPJ no representa una reacción de desconfianza hacia la tecnología, sino una manifestación del principio de prudencia institucional. La independencia judicial no solo exige ausencia de presiones externas, sino también autonomía intelectual en la elaboración de las resoluciones. Si el juez delegara de forma automática el proceso argumentativo en una inteligencia artificial, correría el riesgo de convertir la motivación judicial en un producto tecnológico cuya verdadera lógica de funcionamiento permanece, en buena medida, inaccesible incluso para sus desarrolladores. La legitimidad democrática de la jurisdicción exige que toda decisión pueda ser explicada, razonada y asumida personalmente por quien la firma.

Otro aspecto especialmente relevante de la Instrucción es la protección de la confidencialidad de la información judicial. El uso indiscriminado de plataformas públicas de inteligencia artificial puede implicar la introducción de datos procesales, hechos controvertidos o información personal especialmente sensible en sistemas cuyo tratamiento de datos no siempre resulta plenamente transparente. En consecuencia, el documento recuerda que el deber de secreto profesional y la protección de los datos personales continúan siendo plenamente exigibles en el entorno digital. La innovación tecnológica nunca puede justificar una disminución de las garantías que protegen los derechos fundamentales de los ciudadanos.

La trascendencia de este documento supera, además, el ámbito estrictamente judicial. La Instrucción constituye un referente para toda la comunidad jurídica, ya que anticipa un modelo de utilización responsable de la inteligencia artificial que previsiblemente será asumido por otras instituciones públicas y privadas. La idea central es sencilla, pero extraordinariamente relevante: la inteligencia artificial puede asistir al jurista, pero nunca sustituir su responsabilidad profesional. El criterio jurídico, la valoración de la prueba, la ponderación de principios constitucionales y la interpretación del ordenamiento siguen siendo funciones que corresponden exclusivamente a las personas.

Nos encontramos, por tanto, ante uno de los primeros desarrollos institucionales españoles que traducen los principios del AI Act en reglas concretas de actuación profesional. El documento del CGPJ demuestra que la regulación de la inteligencia artificial no consiste únicamente en establecer obligaciones para los desarrolladores de sistemas, sino también en definir las responsabilidades de quienes los utilizan. La gobernanza de la inteligencia artificial comienza, precisamente, cuando el operador jurídico comprende que ninguna herramienta tecnológica puede sustituir el deber de motivar adecuadamente una decisión que afecta a los derechos de los ciudadanos.

En definitiva, la Instrucción del Consejo General del Poder Judicial constituye un paso decisivo hacia una integración responsable de la inteligencia artificial en la Administración de Justicia. No pretende frenar la innovación, sino garantizar que el progreso tecnológico permanezca subordinado a los principios que sustentan la función jurisdiccional. La Justicia del futuro utilizará, sin duda, herramientas cada vez más sofisticadas de inteligencia artificial. Sin embargo, la autoridad de las resoluciones judiciales continuará descansando sobre un presupuesto inalterable: la responsabilidad última de decidir corresponde siempre al juez, nunca al algoritmo.

---

Referencias (formato APA)

1. Consejo General del Poder Judicial. (2026). Instrucción sobre la utilización de herramientas de inteligencia artificial por los miembros de la Carrera Judicial. Madrid: CGPJ.
2. Unión Europea. (2024). Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial (AI Act). Diario Oficial de la Unión Europea, L 1689.
3. Consejo de Europa. (2024). Framework Convention on Artificial Intelligence, Human Rights, Democracy and the Rule of Law. Estrasburgo.