La justicia española frente a la inteligencia artificial: el CGPJ y la consolidación del principio de control humano efectivo

 

La justicia española frente a la inteligencia artificial: el CGPJ y la consolidación del principio de control humano efectivo

La utilización de inteligencia artificial en el ámbito judicial ha dejado de ser una cuestión teórica para convertirse en uno de los debates más relevantes del Derecho contemporáneo. La reciente consolidación doctrinal del principio de “control humano efectivo” por parte del Consejo General del Poder Judicial supone un punto de inflexión en la delimitación jurídica del uso de sistemas algorítmicos dentro de la Administración de Justicia. La cuestión ya no consiste únicamente en determinar si la inteligencia artificial puede asistir técnicamente a jueces y tribunales, sino en precisar cuáles son los límites constitucionales, éticos y jurídicos que impiden que la función jurisdiccional termine parcialmente desplazada por sistemas automatizados de decisión.

La Instrucción 2/2026 del Consejo General del Poder Judicial aparece en un contexto marcado por la rápida expansión de herramientas de IA generativa capaces de redactar textos jurídicos complejos, resumir actuaciones procesales, analizar jurisprudencia o incluso proponer estructuras argumentativas de resolución judicial. La enorme capacidad técnica de estos sistemas ha generado simultáneamente expectativas de modernización y preocupaciones institucionales relacionadas con la independencia judicial, la transparencia de las decisiones y la preservación de las garantías procesales.

El CGPJ ha establecido con claridad que la inteligencia artificial no puede sustituir la valoración jurídica propia del juez ni intervenir autónomamente en elementos esenciales de la función jurisdiccional. La decisión judicial continúa siendo una actividad estrictamente humana porque implica ponderación constitucional, valoración probatoria, razonamiento jurídico individualizado y responsabilidad institucional derivada del ejercicio de la potestad jurisdiccional. La inteligencia artificial puede desempeñar funciones auxiliares o instrumentales, pero nunca convertirse en sujeto material de decisión.

La relevancia jurídica de esta posición institucional resulta extraordinaria porque introduce de forma expresa el concepto de “control humano efectivo”, noción que ya aparecía implícitamente en distintas iniciativas regulatorias europeas, pero que ahora adquiere una concreción particularmente intensa dentro del sistema judicial español. El control humano efectivo no significa una mera supervisión formal o superficial de los resultados generados por la inteligencia artificial. Exige que el operador jurídico conserve comprensión real sobre el funcionamiento de la herramienta utilizada, capacidad de revisión crítica de los resultados y control decisorio último sobre cualquier actuación procesal o jurisdiccional.

La cuestión adquiere especial importancia en relación con los sistemas de IA generativa. Estas herramientas no operan únicamente mediante automatización mecánica de datos, sino mediante modelos probabilísticos capaces de producir razonamientos aparentemente coherentes que pueden contener errores jurídicos, referencias normativas inexistentes o construcciones argumentativas artificialmente convincentes. El fenómeno de las denominadas “alucinaciones” algorítmicas constituye uno de los mayores riesgos para el ámbito judicial, particularmente cuando la apariencia formal de precisión técnica puede ocultar graves defectos materiales en la fundamentación jurídica.

El principio de motivación de las resoluciones judiciales reconocido en el artículo 120 de la Constitución Española adquiere aquí una importancia decisiva. La motivación no consiste únicamente en ofrecer un texto argumentativo formalmente correcto, sino en exteriorizar el razonamiento intelectual auténtico que ha conducido a la decisión jurisdiccional. Cuando una resolución judicial incorpora razonamientos producidos automáticamente sin control cognitivo real del juez, la propia legitimidad constitucional de la motivación puede verse comprometida. El problema no es únicamente tecnológico; afecta directamente a la esencia de la jurisdicción como expresión racional del poder del Estado sometido al Derecho.

La independencia judicial constituye otro de los elementos centrales del debate. La utilización intensiva de sistemas algorítmicos podría generar formas indirectas de condicionamiento estructural de las decisiones judiciales, especialmente cuando las herramientas incorporen patrones estadísticos, modelos predictivos o criterios automatizados de análisis jurisprudencial. La homogeneización algorítmica del razonamiento judicial puede terminar erosionando la autonomía intelectual del juez y reducir progresivamente la pluralidad interpretativa inherente al sistema jurídico.

La preocupación institucional europea por estos riesgos ya se encontraba reflejada en el Reglamento Europeo de Inteligencia Artificial. El AI Act considera de alto riesgo determinados sistemas utilizados en el ámbito de la justicia y exige garantías reforzadas de supervisión humana, transparencia y trazabilidad. La posición adoptada por el CGPJ se alinea claramente con esta orientación regulatoria europea, aunque introduce una formulación particularmente garantista al insistir en la imposibilidad de delegar elementos nucleares de la potestad jurisdiccional.

La tensión entre eficiencia tecnológica y garantías procesales constituye uno de los aspectos más complejos del debate actual. La Administración de Justicia española afronta problemas estructurales de lentitud, sobrecarga y acumulación de procedimientos. La inteligencia artificial ofrece herramientas potencialmente útiles para agilizar tareas de gestión documental, clasificación procesal o búsqueda jurisprudencial. Sin embargo, el incremento de eficiencia no puede producirse a costa de debilitar las garantías constitucionales del proceso ni de transformar la función judicial en una actividad progresivamente automatizada.

También resulta necesario advertir que la utilización de inteligencia artificial dentro de la justicia no afecta exclusivamente a jueces y magistrados. Fiscales, letrados de la Administración de Justicia, funcionarios, abogados y procuradores comienzan igualmente a incorporar herramientas algorítmicas en su actividad profesional cotidiana. Esto plantea la necesidad de establecer estándares comunes de utilización responsable, protocolos de transparencia y mecanismos de identificación clara cuando determinados contenidos jurídicos hayan sido generados o asistidos mediante IA.

El debate jurídico contemporáneo sobre inteligencia artificial judicial refleja una cuestión mucho más profunda relacionada con la propia concepción del Derecho. La función jurisdiccional no puede entenderse únicamente como aplicación mecánica de normas positivas a supuestos de hecho predeterminados. El razonamiento judicial incorpora interpretación, prudencia, contextualización social, sensibilidad constitucional y responsabilidad institucional. Ningún sistema algorítmico actual posee auténtica comprensión normativa ni conciencia jurídica en sentido estricto. La inteligencia artificial procesa correlaciones estadísticas extraordinariamente complejas, pero no comprende el significado moral, político y constitucional de la decisión jurídica.

La consolidación del principio de control humano efectivo representa, en consecuencia, una defensa institucional de la centralidad humana dentro del sistema judicial democrático. La tecnología puede asistir al Derecho, pero no reemplazar la responsabilidad jurídica inherente al ejercicio de juzgar. La legitimidad de la justicia en un Estado constitucional continúa dependiendo de la existencia de un sujeto humano identificable que asuma racionalmente la decisión, motive jurídicamente su contenido y responda institucionalmente de sus consecuencias.

 

Santiago Carretero Sánchez
Profesor Titular de Filosofía del Derecho
Universidad Rey Juan Carlos