ANÁLISIS DE LAS IDEAS PRINCIPALES DE LA SENTENCIA COLOMBIANA SOBRE EL USO DE LAS HERRAMIENTAS DE IA EN LA ADMINISTRACIÓN DE JUSTICIA

Santiago Carretero Sánchez

Profesor Titular de Filosofía del Derecho, URJC


La Sentencia T-323 de 2024 de la Corte Constitucional de Colombia aborda el uso de herramientas de inteligencia artificial (IA) en la administración de justicia, específicamente en la emisión de decisiones judiciales. El caso se originó cuando un juez de segunda instancia utilizó ChatGPT 3.5 para fundamentar parcialmente su fallo en una acción de tutela relacionada con los derechos de un menor de edad.

Principales consideraciones de la Corte:

  1. Garantía del juez natural: La Corte enfatizó que la función judicial debe ser ejercida por un ser humano, no por una máquina.El uso de IA para tomar decisiones judiciales podría vulnerar el derecho al debido proceso y la garantía del juez natural. Sin embargo, la IA puede ser empleada como herramienta de apoyo en tareas administrativas y de gestión documental, siempre que no sustituya la labor esencial del juez.

  2. Independencia e imparcialidad judicial: Se resaltó que la utilización de IA en la función judicial implica riesgos para la independencia e imparcialidad del juez. La Corte advirtió sobre la posibilidad de que las decisiones se vean influenciadas por sesgos inherentes a los sistemas de IA o por la opacidad de los algoritmos utilizados.

  3. Transparencia y responsabilidad: La Corte criticó la falta de transparencia en el uso de ChatGPT por parte del juez de segunda instancia, ya que no se explicó adecuadamente cómo se integraron las respuestas generadas por la IA en la decisión judicial.Se subrayó la importancia de que los jueces sean responsables de sus decisiones y de que cualquier herramienta tecnológica utilizada sea transparente y explicable.

  4. Protección de datos personales: Aunque en este caso no se vulneró la privacidad de los datos personales del menor y de las partes involucradas, la Corte recordó la importancia de proteger la información sensible al utilizar herramientas de IA en procesos judiciales.

  5. Decisiones adoptadas:

  • Exhortación a la Rama Judicial: La Corte instó al Consejo Superior de la Judicatura a desarrollar una guía sobre el uso de herramientas de IA en la administración de justicia y a promover la capacitación de los jueces en este ámbito, con un enfoque centrado en la protección de los derechos fundamentales.

  • Protección de los derechos del menor: En cuanto al caso específico, la Corte ordenó la exoneración del menor del pago de copagos y cuotas moderadoras en el Sistema General de Seguridad Social en Salud, así como la cobertura de los gastos de transporte necesarios para asistir a sus terapias y consultas médicas, considerando la situación de vulnerabilidad económica de la familia.

Esta sentencia establece un precedente significativo en la regulación del uso de la inteligencia artificial en el sistema judicial colombiano, subrayando la necesidad de equilibrar la innovación tecnológica con la salvaguarda de los principios fundamentales del derecho.


Comentarios

Publicar un comentario

Entradas populares de este blog

EL MODELO DE INTENTO DE CONCILIACIÓN QUE IMPONE LA LEY DE EFICIENCIA PROCESAL, PROPUESTA DEL ICAM

  MODELO PARA LA ACREDITACIÓN DEL INTENTO DE NEGOCIACIÓN Y TERMINACIÓN DEL PROCESO SIN ACUERDO Artículo 10º.1 de la Ley Orgánica 1/2025, de 2 de enero, de medidas en materia de eficiencia del Servicio Público de Justicia     Artículo 10. Acreditación del intento de negociación y terminación del proceso sin acuerdo.   1. A los efectos de acreditar que se ha intentado una actividad negociadora previa y cumplir el requisito de procedibilidad, dicha actividad negociadora o el intento de la misma deberá ser recogida documentalmente .   2. Si no hubiera intervenido una tercera persona neutral, la acreditación se cumplirá mediante cualquier documento firmado por ambas partes en el que se deje constancia de la identidad de las mismas y, en su caso, de las personas profesionales o expertas que hayan participado asesorándolas , la fecha, el objeto de la controversia, la fecha de la reunión o reuniones mantenidas, en su caso, y la declaración responsable d...
Leer más

LA (POSIBLE) INCONSTITUCIONALIDAD DEL PACTO PSOE-JUNTS SOBRE FRONTERAS E INMIGRACIÓN

Santiago Carretero Sánchez Profesor Titular de Filosofía del Derecho Abogado  El pacto entre el PSOE y Junts podría ser inconstitucional en materia de fronteras e inmigración por varias razones, en función del contenido concreto del acuerdo y su compatibilidad con la Constitución Española.  Entiendo que se sale de la temática de este blog, pero es un tema jurídico de primera magnitud que también tendrá esa dimensión digital si toma cuerpo legal, que entendemos que como tal, el pacto no cabe en nuestra Carta Magna. A continuación, se detallo los principales argumentos jurídicos si bien hay que recordar que es un pacto entre dos partidos sólo: 1. Competencia exclusiva del Estado en fronteras e inmigración El artículo 149.1.2ª de la Constitución Española establece que la regulación de nacionalidad, inmigración, emigración, extranjería y derecho de asilo es competencia exclusiva del Estado. Cualquier cesión de competencias a una comunidad autónoma que afecte a estos ámbitos...
Leer más
  Ley de Eficiencia Judicial y Reforma Integral del Sistema de Justicia en España: reflexiones sobre la Crónica de un caos asegurado Santiago Carretero Sánchez, Profesor Titurlar de Filosofía del Derecho, Abogado SSANs La Ley Orgánica de Eficiencia del Servicio Público de Justicia, publicada recientemente en el BOE y con entrada en vigor el 3 de abril , representa una transformación estructural y procedimental de la justicia en España. La reforma, calificada como histórica, aborda aspectos clave que buscan modernizar y agilizar el sistema judicial, garantizar una mayor equidad entre las partes en conflicto y promover la utilización de métodos alternativos de resolución de conflictos (MASC). 1. Reformas Organizativas en el Sistema Judicial La ley establece cambios profundos en la estructura organizativa de los órganos judiciales: Tribunales de Instancia : Se sustituirán los juzgados unipersonales por tribunales colegiados, lo que permitirá una gestión más eficiente y equilibrad...
Leer más