La sentencia asistida por IA: responsabilidad judicial, verificación y límites de la inteligencia artificial

Santiago Carretero Sánchez, Profesor Titular de Filosofía del Derecho, Universidad Rey Juan Carlos, Abogado del Ilustre Colegio de Abogados de Madrid

Una noticia que obliga a replantear la relación entre juez e inteligencia artificial

La utilización de inteligencia artificial generativa en la actividad judicial acaba de ofrecer un nuevo episodio que merece una reflexión jurídica más profunda que la mera constatación de un error tecnológico. Según ha informado Reuters el 10 de septiembre de 2026, el juez de distrito asociado de Stephens County (Oklahoma), Lawrence Wheeler, reconoció ante investigadores que había utilizado ChatGPT para realizar investigación jurídica en relación con una resolución dictada en un procedimiento de filiación. La resolución terminó incorporando referencias a dos casos judiciales inexistentes, circunstancia que fue posteriormente detectada y que llevó a que el juez dejara sin efecto aquella resolución. La investigación fue realizada por el Oklahoma State Bureau of Investigation a petición del organismo estatal competente en materia de quejas contra jueces y, según la información disponible, la Fiscalía General de Oklahoma no apreció base suficiente para una persecución penal, sin perjuicio de las posibles consecuencias disciplinarias.

El dato verdaderamente relevante no es, sin embargo, que una inteligencia artificial haya producido dos referencias jurídicas falsas. Las denominadas «alucinaciones» de los modelos generativos constituyen ya un riesgo suficientemente conocido y documentado. Lo jurídicamente trascendente es que ese resultado haya penetrado en un documento judicial y, por tanto, en un espacio en el que la exigencia de exactitud de las fuentes, la motivación de las decisiones y la responsabilidad del órgano jurisdiccional adquieren una intensidad cualificada. Una resolución judicial no es un texto meramente informativo: es un acto de poder público que afecta a derechos e intereses concretos y cuya legitimidad depende, entre otros elementos, de que las razones jurídicas que la sustentan puedan ser identificadas, contrastadas y sometidas al correspondiente control. La utilización de una herramienta generativa puede auxiliar al juez en determinadas tareas, pero no desplaza esa responsabilidad. El problema aparece precisamente cuando la velocidad y capacidad de síntesis de la IA generan una apariencia de solvencia jurídica que puede ocultar la inexistencia, inexactitud o inadecuación de la fuente utilizada.

La responsabilidad no puede ser delegada en el algoritmo

Este episodio permite formular una regla que debería convertirse en uno de los principios fundamentales de la inteligencia artificial aplicada al Derecho: la asistencia algorítmica no puede convertirse en delegación de la responsabilidad jurídica. El juez puede servirse de herramientas tecnológicas para localizar información, ordenar documentos, detectar relaciones entre textos o facilitar determinadas tareas de investigación, pero continúa siendo responsable de comprobar que las fuentes existen, que son pertinentes y que han sido correctamente interpretadas. La firma de una resolución transforma radicalmente la naturaleza de la relación con la tecnología: desde ese momento no responde el sistema que generó una determinada información, sino la autoridad que la incorpora a una decisión judicial.

Esta idea encuentra una confirmación particularmente significativa en el ámbito europeo. El Tribunal de Justicia de la Unión Europea adoptó el 26 de enero de 2026 una Carta Ética sobre Inteligencia Artificial en la que reconoce el potencial de estas tecnologías para mejorar determinados procesos judiciales y administrativos, pero establece simultáneamente que los seres humanos, y específicamente los jueces y abogados generales, deben conservar el control pleno de los procedimientos judiciales. La Carta señala además que los sistemas de IA no deben recibir responsabilidades decisorias, que sus resultados deben ser sometidos a controles de calidad y que los usuarios deben adoptar una actitud crítica, comprobando su exactitud y exhaustividad en cada caso. Especialmente significativa es la afirmación de que la responsabilidad por el producto final corresponde a la persona y no puede transferirse al sistema de inteligencia artificial.

Desde esta perspectiva, el caso de Oklahoma no debería conducir a una reacción de rechazo general de la IA en la Administración de Justicia. Sería una conclusión tan sencilla como equivocada. La cuestión jurídicamente relevante consiste en establecer qué tareas pueden ser asistidas por IA, qué controles deben acompañar su utilización y quién conserva en todo momento la responsabilidad sobre el resultado. La inteligencia artificial puede ser extraordinariamente útil para el jurista, pero cuanto mayor sea su capacidad de intervención sobre el razonamiento jurídico, mayor debe ser también la intensidad del control humano. No basta, por ello, con exigir que exista un ser humano al final del proceso; es necesario que ese ser humano comprenda, contraste y pueda justificar las razones por las que acepta o rechaza el resultado producido por la máquina.

De la motivación jurídica a la trazabilidad de la decisión

La cuestión plantea finalmente un problema de mayor alcance para la teoría del Derecho. Tradicionalmente, la exigencia de motivación de las resoluciones judiciales se ha construido alrededor de la necesidad de conocer las razones jurídicas y fácticas que conducen a una determinada decisión. La introducción de sistemas generativos añade una dimensión nueva: cuando una herramienta algorítmica interviene en la preparación de una resolución, comienza a resultar igualmente relevante poder determinar qué función desempeñó la tecnología, qué información proporcionó, qué fuentes fueron utilizadas y qué controles humanos se realizaron antes de incorporar el resultado a la decisión. No se trata de convertir cada sentencia en un informe técnico sobre inteligencia artificial, sino de impedir que la utilización de sistemas opacos genere una zona de irresponsabilidad entre la herramienta y la decisión jurídica.

La cuestión afecta también a la confianza pública en la Justicia. Una referencia jurisprudencial inexistente no es únicamente un error formal: puede comprometer la credibilidad de toda una resolución y trasladar a las partes la carga de descubrir errores que el propio órgano decisor estaba obligado a evitar. Por eso, el verdadero principio rector de la IA judicial debería formularse en términos de trazabilidad, verificación y responsabilidad. La tecnología puede acelerar la investigación jurídica, pero no puede sustituir la obligación de conocer el Derecho; puede ayudar a organizar información, pero no puede justificar por sí misma una decisión; puede sugerir argumentos, pero no puede asumir la responsabilidad institucional derivada de su aceptación. La lección que ofrece el caso de Oklahoma es, en definitiva, mucho más importante que la anécdota de dos citas falsas: cuando la inteligencia artificial entra en la sentencia, debe entrar también una exigencia reforzada de control humano. La Justicia puede utilizar IA, pero la decisión jurídica sigue teniendo que ser, en último término, una decisión responsable de quien ejerce la jurisdicción.

Referencias

Reuters. (2026, 10 de septiembre). Oklahoma judge used AI in ruling that contained false citations, prosecutor says. Reuters.

Court of Justice of the European Union. (2026, 26 de enero). Artificial Intelligence Ethics Charter. Court of Justice of the European Union.

Court of Justice of the European Union. (2026). Artificial intelligence. Court of Justice of the European Union.

Oklahoma Court of Criminal Appeals. (2026). Published decisions and judicial information. Oklahoma Courts.