LA FUNCIÓN LIMITADA DE LAS
INTELIGENCIAS ARTIFICIALES EN LA ARGUMENTACIÓN JURÍDICA: PERSISTENCIA DE LOS
PRINCIPIOS JURÍDICOS
THE LIMITED ROLE OF ARTIFICIAL INTELLIGENCES IN
LEGAL ARGUMENTATION: PERSISTENCE OF LEGAL PRINCIPLES
Santiago Carretero Sánchez
Profesor Titular de la
Universidad Rey Juan Carlos
Filosofía del Derecho
Orcid: ES 0000-0003-4999-1768
RESUMEN
Las IA, porque no se puede hablar
de una sola, hace tiempo que trabajan en el sector jurídico. La inmediatez en
la búsqueda del dato, de la noticia jurídica, de la sentencia, del documento
normativo estaba ya desarrollada por todas las bases de datos. La precisión que
se quiere para la argumentación y motivación contará con este importante
recurso o herramienta, y ello nadie lo pone en duda. Desde el punto de vista de
la Teoría del Derecho argumentar es pensar en valores jurídicos, en derechos
fundamentales, en la hermenéutica interpretativa como la principal labor del
jurista, y en este sentido, las IA no serán tan determinantes, las ideas, los
valores, los principios generales tienen un razonamiento jurídico que no
coincide con la propia Moral, pero sí en la defensa de situaciones límite para
los derechos humanos. En este trabajo se pretende hacer notar que simplemente
será complemento que en la función valorativa o de aplicación de principios
generales su complemento será limitado en la labor del jurista, sin aludir, por
ejemplo, a todos los litigios jurídicos constitucionales que se resolverán por
la propia ideología jurídica y el encaje conforme a la Constitución basado en
valores y principios.
Palabras clave
Argumentación
Motivación
Derechos fundamentales
Argumentación judicial
Principios generales del Derecho
SUMMARY
AIs, because we cannot talk about just one,
have been working in the legal sector for a long time. The immediacy in the
search for the data, the legal news, the sentence, the normative document was
already developed by all the databases. The precision desired for argumentation
and motivation will rely on this important resource or tool, and no one doubts
this. From the point of view of Legal Theory, arguing is thinking about legal
values, fundamental rights, interpretive hermeneutics as the main work of the
jurist, and in this sense, AI will not be so decisive, ideas, values, The
general principles have a legal reasoning that does not coincide with Morality
itself, but does coincide with the defense of extreme situations for human
rights. In this work we intend to point out that it will simply be a complement
that in the evaluative function or application of general principles its
complement will be limited in the work of the jurist, without referring, for
example, to all the constitutional legal disputes that will be resolved by the
jurist itself. legal ideology and compliance with the Constitution based on
values and principles.
Keywords
Argumentation
Motivation
Fundamental rights
judicial argument
General Principles of Law
QUÉ ES EL ARGUMENTAR Y CÓMO
INFLUIRÁN EN ELLO LAS INTELIGENCIAS ARTIFICIALES
Normalmente el derecho se crea,
se legisla y se lucha al interpretarlo. Interpretar el Derecho en cualquier de
sus ramas, es averiguar su sentido expansivo, su significado desde la Teoría
del Derecho estos criterios de interpretación históricos, lingüístico, lógico,
histórico, sistemático, finalístico, el espiritual, según la constitución o
conforme a la Constitución…son conocidos por todos los juristas[1].
Se han recurrido a teorías de la lógica, a los principios, a la eficacia, a la
optimización, y sobre todo al resultado justo en términos ontológicos. En esto
es lo que debemos de incidir: la Inteligencia Artificial es una realidad para
todos los juristas, pero en el plano creativo, en el plano espiritual, en el
plano argumentativo no va a producir las novedades que se han proyectado o
potenciado y hablamos de Inteligencias Artificiales dado que la oferta de
productos, como luego se verá, es más que amplia[2].
Argumentar es dar razones para el convencimiento de contrario o para el
convencimiento del juez intérprete de un litigio o problema jurídico y con el
mismo sentido o semántica a la hora de vislumbrar un conflicto. Argumentar es
mucho más que una mera recopilación de jurisprudencia es conectar una norma con
el ideal justo por el que nació, o que se presume que nació, o cuando menos
para un resultado que se presume justo, desde el más puro positivismo,
constitucional, los problemas que las Inteligencias Artificiales van a
presentar en temas de abstracción y reflexión serán importantes[3].
Si incidimos en todos los teóricos de la Argumentación la obsesión o idea
central es la de la resolución concreta justa, real, idónea, proporcional,
efectiva. No podemos abstraernos de que la norma siempre será interpretada por
su vocación de generalidad. La formación del jurista consiste en enseñar a
interpretar, una vez interpretado un texto, la argumentación es la fase
racional por la que conectamos esa norma con un principio, con un derecho
fundamental o con un resultado justo. Se pueden dar muchas definiciones de la
argumentación, pero lo que es argumentación para el letrado, será motivación
para el Juez y lo ha sido previamente exposición de motivos para el legislador.
El legislador también argumenta la confección de una norma, su necesidad, su
convencimiento de efectividad, e incluso, su necesaria aportación para el
sistema como una norma de carácter esencial o se decía anteriormente
fundamental para la continuación o el perfeccionamiento jurídico. Por eso toda
norma nace con una argumentación, con una exposición argumentada de lo que se
persigue con ella y desde la normativa inferior a la superior, todas llevan esa
carga argumentativa, esa proyección de la motivación que ha dado lugar a su
nacimiento por parte del Legislador. No se pueden analizar los datos previos,
sociológicos, estadísticos, obtenidos de la jurisprudencia, de los agentes
sociales…son muchos los factores por los que se argumenta o exponer una ley,
políticos, económicos, sociales, de sistema (por ejemplo en la Unión Europea es
frecuente para la armonización de las legislaciones)… son muchos los factores
que se pueden estudiar…no se puede ocultar que la argumentación puede aumentar
su eficacia, puede ser más concreta valiéndose de las IA (Inteligencias
Artificiales) pero ello ya viene sucediendo, porque la doctrina tiene la misión
jurídica en el Sistema de servir de cauce intelectual para motivar, para
convencer con nuevas razones jurídicas, que, a menudo, exceden en todos los
órdenes jurisdiccionales, de una mera teoría de la subsunción de los supuestos
de hecho. Esto resulta algo paradójico, por una parte, la argumentación
aumenta, pero este cauce como único, puede resultar contrario al ejercicio
creativo, espiritual del jurista, cuya labora interpretativa y de argumentación
es ejercida a diario, incluso en los litigios más claros[4]. Por Inteligencia artificial debemos entender
todos aquellos mecanismos implementados, de uso frecuente, que pueden recabar
datos jurídicos, mezclándolos conforme a criterios preestablecidos o que el
propio sistema diseña, para obtener un resultado buscado o para la
investigación estadística de un resultado, partiendo de una norma o documento
normativo. Se puede decir que existe un vacío en la IA que quizá nunca pueda
llenar, que es la visión valorativa o de justicia creativa, restaurativa,
proyectiva o distributiva del caso concreto, que, tampoco pueden vislumbrar todos
estos sistemas de datos como algo preferente en su búsqueda o información. No
es la visión sólo de un teórico del Derecho, sino en general, de cualquier
norma interpretativa ambivalente, esto es, que tanto su aplicación como su no
aplicación puedan conllevar un resultado injusto según el caso concreto. En las
últimas décadas, hemos asistido a una auténtica explosión del campo de las
inteligencias artificiales (IA), cuya popularización se ha hecho especialmente
visible en tiempos recientes. Una de las aplicaciones de esta tecnología que
más interés viene suscitando es su empleo en el ámbito jurídico. Es necesario
reflexionar sobre una parte reducida de la conexión Derecho-IA, a saber,
aquella que concierne a la toma de decisiones judiciales y al planteamiento
argumentativo o motivador de los juristas. Dos hipótesis pueden colegirse: la
que concibe la sustitución del juzgador humano por una inteligencia artificial,
y la que entiende el uso de esta última como complemento o apoyo al juzgador a
lo largo del proceso decisorio. En relación con la primera, se reflexiona sobre
las dificultades que entraña el concepto de «razón» cuando se aplica al decisor
humano y al artificial, y en qué modo esto repercute en la función
jurisdiccional como actividad inter pares. En relación con la segunda cuestión,
se destaca el potencial que el uso de la IA como apoyo puede venir acompañada
de sus propias dificultades. Reflexionando a través del ejemplo de la justicia
penal y los pronósticos de reincidencia, se destaca que el uso de este tipo de
instrumentos puede producir «vacíos de argumentación», a saber, puntos ciegos
en el proceso de justificación de la decisión judicial o sobre decisiones que
jurídicamente sólo obedecen a criterios políticos como se verá. No podemos
hablar de una “razón” de argumentación en la IA que no vaya más allá de una
combinación de datos conforme a un criterio previo, que, como tal, puede no ser
el adecuado para el caso concreto, surge el problema de la propia argumentación
intelectual con una misma semántica para ello[5].
Desde la visión de un jurista siempre excede todo lo que es la creación
computacional de una Inteligencia Artificial, su confección, sus criterios,
pero se entiende que siempre en la base está la mejor información completa
sobre el caso o litigio formado. La argumentación, en contra de lo que se cree,
posee una visión teórica que pretende llevar a cabo una practicidad existente,
lógica, aplicada a un caso concreto. Pero la argumentación nos lleva la teoría
de una forma siempre directa, y el análisis filosófico de este proceso en la IA
es esencial, amén de la preocupación que se tiene sobre el futuro papel en el
ámbito del Derecho creativo, filosófico e incluso en el aspecto meramente
profesional del Derecho. El momento ante esta irrupción en el razonamiento
jurídico es de impacto y de inseguridad y preocupación, lógica, pues los
acontecimientos son efímeros y el avance sustancial se produce por minutos.
Necesitamos saber si la lógica del razonamiento jurídico es aplicada en estos
sistemas de IA, porque no se trata de una IA, sino de muchas aplicaciones y
enfoques de esta. Todos los sistemas tienden a ofrecer la máxima información
jurisprudencial, doctrinal, legislativa, administrativa e incluso de
documentación noticiosa desde el ámbito normativo, una exposición integral, sin
embargo, vemos que persiste el litigio y el contraste de argumentaciones que es
lo que hizo nacer el Derecho. Sabemos que muchos son los criterios de la
argumentación y que muchos teóricos sitúan a esta en la comprobación y
alegación de datos contrastados con ideas que después se sustentan en que no
puedan ser revocadas, por el contrario, así por destacar a Toulmin y toda su
obra, porque el intento se conseguir la racionalidad en el Derecho y en la
argumentación es añejo y sólo modernamente hay teóricos consagrados a ello[6].
La argumentación es retórica a la hora de producir alegaciones y argumentos y
es lógica discursiva, entraña, por tanto, un encadenamiento racional de datos
de los que obtener principios o ideas algo de lo que la IA actual no es que
carezca, pero no es un carácter primordial en su confección en el ámbito
jurídico, no siendo este si finalidad sino la exposición completa de datos
jurídicos. Por más que se reflexiona desde la Teoría del Derecho se llega la
conclusión casi unánime de que la IA- concebida como sólo una- será simplemente
un instrumento complementario de indudable valor para llegar a una
argumentación justa, proporcional, equilibrada, racional y constitucional como
parámetro de su motivación. No olvidemos
que la función judicial se basa en la independencia- sólo dependencia de la
ley- y la motivación de sus decisiones, en este sentido, la argumentación puede
ser acogida por el juzgador sin llegar a compartir los resultados de la IA. El
problema básicamente tratado es si nuestro Ordenamiento puede admitir
procesalmente y de fondo, un juez-robot que entendemos difícilmente encajable,
la argumentación racional es humana y poco cabe hacer que el hombre no impulse
el problema se produce cuando no se controla y su uso y dimensiones[7].
Por tanto, quede clara la idea de que desde la argumentación su papel es
complementario e importante, pero no decisivo en cuanto al razonamiento desde
la Justicia ni de los valores que encarna una norma aplicada a un caso
concreto. Vamos desgranando esta afirmación que no parece tan apresurada.
ARGUMENTACIÓN
A RAÍZ DE LOS DATOS OFRECIDOS POR LA INTELIGENCIA ARTIFICIAL: EL LÍMITE Y SU
PELIGRO
La magia
digital, los datos, los algoritmos y las estructuras computacionales, los
artefactos, los robots, entre otros, han irrumpido en nuestras vidas, en
nuestras sociedades, en nuestra economía, nuestras relaciones y nuestro
derecho. Los grados de interacción ser humano-máquina varían, de menos a más, y
las manifestaciones de esta nueva sociedad híbrida nos inundan, nos rodean, nos
ofrecen, nos arrastran y nos permiten sentir una vida más fácil y ello debe
tener su reflejo en la argumentación jurídica. Por una parte, fascinación y por
otra, negación, son dos posiciones extremas ante esta irrupción de la vida
digital, de la sociedad algorítmica, que incide también en las relaciones
jurídicas, en las instituciones jurídicas, en la Justicia, en el modus
operandi, en las estrategias de defensa, en los protagonistas en el sistema de
tutela, en las reglas de la prueba, en la motivación de las resoluciones y en
el sistema jurídico en su conjunto[8].
El problema no es el uso en sí de sus datos, sino del abuso de ese uso como
casi de todos los descubrimientos o avances científicos desde una visión
histórica, filosófica, conceptual y jurídica, eminentemente crítica positiva y
negativa, con referencias a las políticas públicas especialmente
supranacionales, aproximándose a manifestaciones del uso y abuso de estos
modelos computacionales, de los Big Data y los algoritmos en el mundo del
derecho, y de la Justicia.
Un hábitat
cibernético, los Smart contracts, el ecosistema de Justicia, la aparición de la
Artificial Legal Intelligence, los sistemas de expertos, la justicia predictiva
(data mining, hotspots), los sesgos, la vigilancia predictiva, entre otros, sin
olvidar el camino hacia la robotización judicial, y las respuestas a la
cuestión de si los sistemas algorítmicos pueden pensar, responder, argumentar y
decidir como juristas… son todas ellas inquietudes que quedan en la comunidad
jurídica. Si bien para la Medicina, el transporte, y otras muchas facetas
industriales se destaca el aspecto positivo no se diferencia la ciencia
jurídica en el temor de la sustitución de los seres humanos por algoritmos por
Inteligencias Artificiales aplicadas. Pues bien, en el Derecho las decisiones
afectan a vidas, familias, haciendas… y existen parcelas donde la sensibilidad
del caso concreto es valorativa, por poner el ejemplo clásico, de la libertad o
condena en el Derecho penal. Pero las IA como tal nos preguntamos si son
“inteligentes” si argumentan de forma valorativa, una forma de argumentar
esencial en el Derecho, desde nuestra posición. las máquinas solo utilizan
aquellos datos que, previamente, un humano le ha ofrecido como ciertos. La
verdad es relativa y los datos van a tener los mismos sesgos y prejuicios que
tiene el humano que programa la máquina. En otras palabras, las máquinas van a
ser racistas, sexistas y clasistas si lo son sus programadores, por muy
completa que se tenga la información, existirá un punto donde hay que
interpretar esa situación conforme a los derechos fundamentales, no nos
olvidemos, que, por su doble carácter son principios generales aplicables a
cualquier litigio[9][10].
A todo esto, se le suma un nuevo problema, la dificultad de comprender el
algoritmo por parte de los aplicadores del derecho y su propia Lógica de
selección de datos. Esto puede atacar derechos fundamentales básicos en el
sistema de justicia penal como son el derecho a la publicidad de las
actuaciones y el derecho a la motivación de las decisiones judiciales[11].
Esta situación obliga a repensar el proceso penal tan y como hoy lo conocemos,
incluyendo la inteligencia artificial e hilando muy fino indicando cómo,
cuándo, por qué y en qué supuestos se podrá hacer uso de la inteligencia
artificial y, sobre todo, quién va a programarla. La pregunta se la han realizado ya muchos
juristas: los datos introducidos no se saben quién los controla, por más que su
visión completa sea la mayor posible, quedan fuera otros que no se han
encontrado relevantes, por quién y por qué. Por ello, no es novedoso afirmar
que el carácter complementario y enriquecedor es indiscutible, pero no debe
pasar de ahí dada la complejidad y control que se puede hacer de la confección
de la propia IA, que, deja de ser un problema estrictamente cibernético o
especializado para ser social, mundial y global. No sólo reside en la garantía
de la privacidad de los seres humanos, sino que los datos no sean sesgados, que
su argumentación no sea parcial o discriminatoria, que su papel se tiene que
limitar al apoyo de la argumentación para una toma de decisión, la idea central
es que el ser humano no puede perder el control de los datos utilizados ni de
la función del jurista, donde acaba el dato, empieza la interpretación
valorativa y ajustada al caso concreto pero que, de forma teórica, no puede
separarse de los principios, de los derechos y de la finalidad de la norma. Y
si bien la privacidad y su garantía así como el consentimiento de los datos son
los dos grandes principios que tienen que ser siempre regulados, lo cierto es
que la argumentación de la IA abrirá todas las puertas para defender cualquier
posición: se podrá defender una idea y la contraria conforme a los mismos
datos, ello nos refuerza en la idea de que el debate estará en la clásica
ponderación de derechos, en la aplicación de principios concretos en normas o
en la aplicación de los instrumentos clásicos que se pueden utilizar para la
insuficiencia de la norma, tanto para argumentar como para motivar[12].
Las dos caras de la misma moneda como se indicaba, lo que es argumento de parte
puede ser recogido como motivación de la decisión, y probablemente, la decisión
no sea estadística, sino obedecerá al relato fáctico y situación real que la IA
en el caso concreto difícilmente puede colegir. Hemos de entender que en la
nueva situación el poder se ha trasladado de los Estados a las empresas que, de
forma monopolística, dominan el escenario de los big data, su uso, su difusión…
el papel de los Estados es favorecer códigos éticos y procesales que puedan
hacer frente a un “gobierno difuso” de los datos como incontrolables, y es
cierto que esto se ha convertido en prioridad en todo el mundo y, desde luego,
en la Unión Europea. El peligro del abuso de su utilización está ahí en la
argumentación y en la motivación jurídica, contra ello, sólo se puede regular
un uso ético, racional, de carácter general pero más riguroso si cabe en los
operadores jurídicos que deben tomar decisiones, bien legislativas, bien
judiciales…para que el criterio de argumentación siempre sea respetuoso con los
derechos humanos como principios programadores de las legislaciones, y en ese
doble carácter que siempre se cita. Y cuando se interpreten derechos en tiempos
de crisis, o en tiempos de corrupción o políticamente de tensión… el dato como
tal puede ser indicativo de un criterio de argumentación o motivación que
debería separarse de un contexto diferente y que una IA no puede fácilmente
aportar. Tampoco se puede abordar la gran preocupación europea que es la
diferente asimilación de los sistemas de la IA en otras latitudes y países que
pueden quedar definitivamente desamparados, aun cuando ello tiene un aspecto
que debería ser positivo para conocer mucho más de cerca su realidad y
carencias. Por tanto, desde el punto de vista metodológico e investigador no va
a variar sino la propia eficacia en la búsqueda de la documentación por los
chats especializados, pero siempre tendrá una revisión en ideas y valores ahora
no contemplada. El Real Decreto convalidado ómnibus de 19 de diciembre de 2023
convalidado el 10 de enero de 2024, apuesta por la digitalización y el
expediente electrónico en los litigios, estableciendo la videoconferencia y el
trato virtual de comunicaciones, pero bien es cierto que ello no altera la
esencia de la labor del jurista: la argumentación y la interpretación.
INSUFICIENCIA VALORATIVA DE LA
INTELIGENCIA ARTIFICIAL EN LA INTERPRETACIÓN Y ARGUMENTACIÓN
No es que las IA no vayan a
realizar una elaboración de material doctrinal o jurisprudencial con algún
criterio, pero lo que es muy probable es que la valoración, la vulneración de
derechos fundamentales de la persona o simplemente la nulidad de un acto
jurídico no sean el centro de la argumentación para el caso concreto o no se
asemejen como ya pasa en las bases de datos. Ello en parte será cierto porque
la idea de la complementariedad de los sistemas de IA en la argumentación
jurídica recorre todo nuestro trabajo. Es cierto que la propia IA puede ser
creativa para ayudarnos en nuestra argumentación. Y que incluso sus
potencialidades (CHATGPT, COPILOT y otras que se citarán) son cada vez mayores
y crecientes. Ciertamente haciéndole preguntas cada vez más concretas el chat
puede perfectamente argumentar para rebatir con cierta imaginación. Por el
proceso inductivo, es decir, haciéndole preguntas cada vez más concretas se
puede llegar a una cadena racional, coherente, de argumentación sobre
responsabilidad, propiedad, delitos… sobre la materia jurídica que estemos
tratando. La creatividad nosotros deberemos conducir a la IA, porque casi todo
se puede hacer con estas herramientas, siempre hablando en plural. Es cierto
que puede ofrecer nuevas ideas y con una inmediatez que llega a asustar
sinceramente. Cualquier pregunta formulada se responde con posibilidades, por
ejemplo, argumentar la estancia en un inmueble del que no soy propietario y la
IA ofrece las posibilidades legales de ello (certificados de empadronamiento,
recibo de suministros, contratos de
arrendamiento, rentas…) pero el propio Chat siempre o casi siempre indica que
la ley puede variar y que en todo caso, se consulte con un Abogado, aunque
también ofrece posibilidades Es importante recordar que estos son solo algunos
ejemplos y que la ley puede variar dependiendo de tu ubicación. Te recomienda
que consultes con un abogado para obtener asesoramiento legal específico para
tu situación.
Además, si el inmueble no está
inscrito en el Registro de la Propiedad a nombre del propietario real, puedes
enfrentarte a problemas adicionales. En este caso, podrías considerar la
posibilidad de redactar una Escritura Pública de Dominio. Por último, si ya no
eres propietario, pero tienes deudas pendientes relacionadas con el inmueble,
la Ley de Propiedad Horizontal establece ciertas obligaciones y
responsabilidades. Cada uno de los conceptos que toca, a su vez, abre un enlace
con la ley o la obligación legal indicada.
Ofrece argumentos legales de apoyo en otro caso, le preguntamos cómo
argumentar que una detención es ilegal y el instrumento COPILOT, de Microsoft,
nos da ya incluso argumentación legal aludiendo al artículo 17 de la CE, al
tiempo de esa detención, alude al procedimiento de habeas corpus, e incluso a
la negativa a identificarse por medio de LO 4/2015, DE 30 de marzo de
protección de la seguridad ciudadana, y al delito de desobediencia del artículo
556 del CP… enumeración legal porque son datos que tiene introducidos como mera
argumentación legal. Lo cierto es que en este contexto siempre se puede escapar
el relato fáctico de cada litigio lo que dará lugar a una valoración e
interpretación en el que la propia IA tiene una capacidad limitada[13].
INTELIGENCIA ARTIFICIAL EN LA
DECISIÓN O ARGUMENTACIÓN JUDICIAL
Son muchas las empresas del
sector jurídico que se han acercado, aunque el proceso ha sido creciente, a la
IA generativa o creativa adaptada al Derecho. No es novedoso entender que las
inteligencias artificiales tienen una capacidad de creación positiva para
muchas ciencias, el Derecho es una ciencia sui generis, porque maneja valores,
ideas, sentimientos y sobre todo el valor Justicia como método interpretativo.
Por ello, es complicado solicitar de las Inteligencias artificiales una
valoración iusnaturalista de un determinado problema, enumerará las decisiones
posibles y tampoco podrá ajustar al caso concreto esa decisión motivada. En
este sentido, la capacidad de la decisión «algorítmica» para resultar
convincente y legítima probablemente no dependa únicamente del contenido o la
forma del argumento que enuncie, sino también del carácter autoritativo
conferido a la IA por la sociedad, pero nos encontramos con temas valorativos
previos: la legitimidad del que toma la decisión el Juez o Tribunal o una Inteligencia Artificial con datos
previamente seleccionados, y preguntarnos dónde queda la responsabilidad del
Estado por ese error o irregularidad judicial si se diere el caso, por ello el
deseo de implementar sistemas de acceso democrático[14].
Dicho lo anterior, siempre existe una posibilidad alternativa. Si la inteligencia artificial se considera
inadecuada para tomar de manera autónoma determinadas decisiones (por ejemplo,
dictar sentencia), siempre cabe la posibilidad de que intervenga como
parte/complemento de la decisión del juez tradicional, pero en ello ya está
actuando por medio de sus bases de datos y herramientas que, a su vez, se han
ido acercando a ella. Nada nuevo pues en cuanto a la interpretación jurídica y
argumentativa. Estamos pues ante la posibilidad del Juez como inteligencia
Artificial que no cabe desde nuestro enfoque constitucional de manera alguna,
por lo que siempre partimos de que su complemento puede ser necesario e
importante. El Juez valora un caso por sus iguales y por sus posibilidades de
resolución más numerosas, pero de todo ello ya tiene una valoración de las
bases de datos pertinentes. Lo que se le pide a las inteligencias artificiales-
que en el caso jurídico es complicado que hagan una vida paralela a las bases
de datos jurídicos, ya que éstas a su vez la utilizan en su confección a
diario- es que pueda reforzar una lectura constitucional y razonada de los
llamados casos difíciles, categoría usada pero en desuso, dado que cualquier
supuesto de hecho de por sí, entraña una dificultad que puede generar una
problemática en un determinado ámbito, familiar, local… que no sea de estricto
conflicto con los derechos nunca resueltos (aborto, eutanasia…) sobre los que
el debate jurídico- filosófico no termina nunca. La diferencia entre el
pensamiento humano y el algorítmico no sólo va a residir en el aspecto
cuantitativo (los datos que el algoritmo maneja pueden ser más numerosos, pero
no ajustados a una problemática personal) y por supuesto cualitativo (no hay
una hermenéutica desde los valores o sentimientos de forma alguna). Por muy
sofisticada que pueda ser, la IA es resultado de un complejo entramado de relaciones
sintácticas/formales, no semánticas/de contenido. El propio algoritmo reconoce
su incapacidad para entender o motivar ciertos temas de los que no tiene datos
en una determinada fecha, por ejemplo, chatgpt en su versión 3, 5 hasta 2021,
pero ello es sólo por el momento fugaz de ahora.
Ello no quiere decir que no sean
capaces de desarrollar procesos decisorios complejos, o incluso de mejorar su programación
de manera autónoma, sino que, por mucho que puedan simular un comportamiento
inteligente, no pueden llegar a duplicar la inteligencia humana y ello como
posibilidad, asusta[15].
Visto lo anterior, procede volver
sobre la idea de inteligencia que atribuimos a la IA. Desde luego, parece que
este tipo de programas pueden producir resultados inteligentes e, incluso, mostrar
comportamientos asociados a la inteligencia como aprender de la experiencia. No
obstante, el procedimiento por el que el programa lleva a cabo dichas tareas no
se basa en la replicación de los procesos cognitivos humanos, sino en el empleo
de heurísticos (como las correlaciones estadísticas) que permitan llegar a resultados
semejantes soslayando el elemento cognitivo/reflexivo. Una forma de
«inteligencia por proxy» como dicen algunos expertos y las barreras de la
propiedad intelectual y otras[16].
Es por ello, que una apuesta humanista “mixta” es la única que se puede ofrecer
desde la Teoría del Derecho, en este sentido se reconoce la importancia e
inmediatez decisiva para la toma de motivación o argumentación jurídica,
siempre sometida al baremo valorativo, de ideas, de valores, del propio
jurista. La razón jurídica no sólo es, ni puede ser, meramente estadística.
Incluso en los litigios más numerosos o en cascada (por todos cláusulas
abusivas o gastos hipotecarios) siempre se espera una resolución motivada, como
la que TJUE tiene que tomar a finales de enero de 2024 para poder concretar
argumentación dispersa y razonamientos con una razón jurídica hilada. Existen
intentos de sustituir a los abogados por un robot, si bien las dificultades y
argumentos en contra son muy importantes, desde el intrusismo, el trato no
personal con este tipo de herramienta, pero los hay en contra: la frialdad que
la IA mantiene en la argumentación en Sala, la inmediatez del manejo de datos,
incluso se alude a la posibilidad del “arbitraje de la Inteligencia Artificial”
como resolución pactada entre dos litigantes que no podrán acusar de
parcialidad al intérprete. Se alude a que lógicamente se tardaría menos tiempo
para la decisión ante el colapso de los palacios de justicia habituales. Pero
la apuesta tiene que ser positiva para el apoyo argumental: más acceso a la
documentación, mayor claridad y menor difusión de la actividad legislativa,
acceso a los documentos administrativos menores (ordenanzas y otros) que
conllevarían mayor inmediatez y disposición. Pero no perdemos de vista el
factor de complemento argumental. La principal razón por la que la tecnología
no puede reemplazar a los abogados es que la práctica de la abogacía requiere
un conjunto complejo de interacciones entre los seres humanos y es lo mismo
para la figura judicial. La inteligencia artificial y el aprendizaje automático
aún no pueden imitar estas interacciones de persona a persona. Si bien la
tecnología puede automatizar muchas tareas que realizan los abogados, no
automatizará a los abogados.
La tecnología legal avanzada no
está desplazando a los abogados. Sin embargo, está cambiando la forma en que se
practica la profesión legal. Se argumenta que la mejor forma de aprovechar la
tecnología legal es comprender las formas en que las computadoras realizan
diversas tareas de abogacía de manera diferente a los humanos. Las tareas
repetitivas y de menor valor, que tradicionalmente realizan los seres humanos,
pueden ser automatizadas por la tecnología. Para los abogados, adquirir
habilidades para el mundo digital puede significar el destino de su tiempo a
tareas que le agreguen valor tanto a su práctica como a sus clientes. El
trabajo monótono y que consume demasiado tiempo puede pasar a plataformas de
inteligencia artificial. Como afirma la tecnología hará los trabajos que hemos
estado haciendo, pero los hará mucho mejor. Y los que no podemos hacer en
absoluto. Hará trabajos que nunca imaginamos que ni siquiera necesitábamos
hacer.
Las máquinas tienen la ventaja de
aumentar la precisión y eliminar errores. A su vez los humanos tienen el rol
irreemplazable de interpretar datos, brindar asesoramiento y liderar las
interacciones interpersonales. Esto brinda oportunidades sin precedentes para
los abogados y juristas, el entendimiento es, por tanto, obligado desde un
punto de vista deontológico. El beneficio real de los avances tecnológicos no
es automatizar a los trabajadores para eliminar sus puestos, que es el peligro
ético que siempre se vislumbra. El verdadero valor de la tecnología legal no es
reemplazar a los abogados sino mejorar las habilidades de los abogados. Al
mismo tiempo, les libera tiempo para realizar tareas más importantes. Los
clientes rara vez se quejan de la calidad del trabajo legal o del nivel de
conocimiento de los abogados que los asesoran, se adquiere. Sin embargo, con
frecuencia expresan preocupación por la mecánica de la relación de trabajo
entre el cliente y la empresa[17].
La tecnología ayuda a humanizar
el trabajo legal. Cambia la naturaleza de las interacciones entre personas y
máquinas, aumentando la productividad, la eficacia y el bienestar. Permite a
los abogados realizar funciones legales creativas y estratégicas. Justamente
aquellas que los vuelven más «humanos» en sus roles.
El Consejo General de Abogacía
Española describe algunas ventajas de usar tecnología sin perder el factor
humano:
Más calidad en el trabajo del
profesional. Se accede a información más profunda y calificada del cliente.
Esto permite definir mejor los objetivos y actuar con mayor precisión y
celeridad.
Mayor satisfacción del cliente.
Mayor confianza en la relación. Mayor probabilidad de conseguir resultados.
Más recomendaciones. El cliente
satisfecho se convierte en el mejor prescriptor del abogado.
Lo que es evidente es que no sólo
es un cambio de medios sino del Derecho en una nueva era de la existencia[18].
LA FINALIDAD DE JUSTICIA PARA LA
NUEVA ERA DIGITAL
Los nuevos algoritmos ya estaban
dentro de la cultura jurídica, ya actuaban sin duda acercando al intérprete de
la norma a su realidad, a su conexión lógica, pero sobre todo a resolver un
problema presentado. Las posibilidades del juez robot son escasas y deberían
serlo en el sentido de que eso no siempre conlleva una medida más justa y si no
lo fuera, la petición de responsabilidad recaería en el mismo sistema de
recursos de la IA[19].
El marco legal europeo va a hacer que las materias creadas por IA sean más
identificables en el sector comercial, de propaganda y, por supuesto, en el
sector didáctico su horizonte es 2026 para entrar en vigor. No se tiene una
concepción del Derecho sancionador como el que resuelve un problema de esta
dimensión, pero es cierto que la lucha va a ser sin descanso en este sentido.
La creación de la IA generativa o de contenidos tiene que ser complementaria a
la Justicia, todo encaminado a hacer de ésta el origen del Derecho en todos los
ámbitos y, por supuesto, desde la Universidad y la investigación promover un
uso ético de esta herramienta tan importante para nuestras vidas. Para manejar
los datos en mayor número y con mayor inmediatez sin duda tendrá un papel
decisivo, que ya tiene en la búsqueda analógica de casos parecidos si es que
hay dos iguales. El uso de las IA en los sistemas judiciales está siendo
explorado por las judicaturas, los servicios de fiscalía y otros órganos
judiciales específicos a nivel mundial. Por ejemplo, en el ámbito de la
justicia penal, muchos sistemas judiciales del mundo entero ya utilizan
sistemas de IA para brindar asistencia en investigación y automatizar los
procesos de toma de decisiones. Al considerar los rápidos avances en este
campo, los desafíos y oportunidades relacionados con el aprovechamiento de la
IA en los sistemas judiciales y sus implicaciones para los derechos humanos y
el estado de derecho deben formar parte de las discusiones entre las partes
interesadas del ecosistema judicial[20].
Se está fomentando con urgencia la formación de los operadores jurídicos en el
uso de los sistemas de IA, para la búsqueda precisa de datos, de soluciones a
supuestos de hecho complicados. A medida que avanza el uso de las tecnologías
de IA, los sistemas judiciales se involucran en cuestiones legales relacionadas
con las implicaciones de la IA con respecto a los derechos humanos, la
vigilancia y la responsabilidad, entre otros. Además, los sistemas judiciales
también utilizan sistemas de IA para los procesos de toma de decisiones
judiciales que han planteado preocupaciones sobre la equidad, la rendición de
cuentas y la transparencia en la toma de decisiones de parte de sistemas
automatizados o habilitados mediante la IA.
Diversos sistemas judiciales
actualmente exploran el potencial de la IA, como el poder judicial, los
servicios de fiscalía y otros órganos judiciales especializados en el mundo
entero y en el ámbito de la justicia penal, proporcionando asistencia de
investigación y automatizando/facilitando los procesos de toma de decisiones.
Todo es en positivo, pero la preocupación por el uso ético es enorme en la
doctrina[21].
Sin embargo, el uso de la IA
plantea una amplia gama de desafíos que deben abordarse: desde el
reconocimiento de patrones pasando por la ética, las decisiones sesgadas
tomadas según algoritmos basados en la IA, la transparencia, hasta la rendición
de cuentas. Los algoritmos de autoaprendizaje, por ejemplo, pueden ser
entrenados mediante ciertos conjuntos de datos (decisiones anteriores, imágenes
faciales o bases de datos de video, etc.) que podrían contener datos sesgados y
que podrían utilizarse con aplicaciones para fines penales o de seguridad
pública, lo que conduce a decisiones sesgadas o incluso falsos positivos (en
Derecho penal decisiones importantes conducidas por las IA) que preocupan a la
doctrina como nunca se recuerda un proceso de eclosión de trabajos, centrados
en los aspectos positivos pero también en el mantenimiento de los principios de
inmediación, presunción de inocencia, publicidad, igualdad, del derecho a la
tutela judicial efectiva…donde las conclusiones no son sino también de
preocupación[22].
Si se considera los rápidos
avances en este ámbito, deben formar parte de las discusiones entre las partes
interesadas del ecosistema judicial todos los desafíos y oportunidades
relacionados con el aprovechamiento de la IA en los sistemas judiciales y sus
implicaciones para los derechos humanos y el estado de derecho. Desde 2014, la
UNESCO y sus socios han estado capacitando a jueces y actores judiciales sobre
la libertad de expresión, el acceso público a la información y la seguridad de
los periodistas, principalmente a través de cursos masivos abiertos en línea
(MOOC). Más de 17.000 agentes judiciales recibieron capacitación en América
Latina, en asociación con la Corte Interamericana de Derechos Humanos, así como
en África, donde la UNESCO se asoció con el Centro de Derechos Humanos de la
Universidad de Pretoria, la Comisión Africana de Derechos Humanos y de los
Pueblos, la Corte Africana de Derechos Humanos y de los Pueblos y la Comunidad
Económica de los Estados de África Occidental.
La inteligencia artificial- una
de tanta definiciones- se podría definir como esa tecnología capaz de procesar
información de la misma manera que lo haría un humano, en base a una serie de
algoritmos. Gracias a herramientas como Chat GPT, la inteligencia artificial ha
escalado hasta ser la palabra del año 2022, elegida por la RAE. Sin embargo, no
podemos dejar de lado otros términos como el Machine Learning o el Big Data,
que también tienen su aplicación en el Derecho. En la actualidad, la
inteligencia artificial ya tiene una gran importancia en el día a día de
multitud de abogados. Por ello, formarse en esta tecnología no es una opción,
sino que se convierte en un aspecto obligatorio para muchos profesionales. Un
correcto aprendizaje puede marcar la diferencia, traduciéndose en una mayor
productividad y efectividad, pero siempre estará presente la preocupación del
propio legislador del mantenimiento de principios, así en la ley de 2022, de 12
de julio sobre la igualdad de trato y la no discriminación, le preocupa en el
ámbito de la inteligencia artificial y mecanismos de toma de decisión
automatizados, la norma dispone que las administraciones públicas favorecerán
la puesta en marcha de mecanismos para que los algoritmos involucrados en la
toma de decisiones que se utilicen en las administraciones públicas tengan en
cuenta criterios de minimización de sesgos, transparencia y rendición de
cuentas, siempre que sea factible técnicamente, así como que las
administraciones públicas y las empresas promoverán el uso de una inteligencia
artificial ética, confiable y respetuosa con los derechos fundamentales. Ello
es imposible sin una impronta de valores y una hermenéutica basada en la ética
y en el desarrollo de los derechos fundamentales. Estos frentes dejan clara la
idea de que el suministro de datos, de jurisprudencia, de documentos normativos
(si acaso en uno único como persiguen algunas bases de datos) nunca irá en
detrimento de la valoración hermenéutica, ideológica, espiritual del ideal de
Justicia, y ello es patente, por la idea central y recurrente de la ética en el
uso de estas inteligencias artificiales[23].
Esas finalidades de inmediatez y
solvencia de datos han de ser puestas no en tela de juicio, sino
compatibilizándolas con la hermenéutica, el pensamiento interpretativo,
conforme a la Constitución en valores y con los criterios clásicos de
interpretación: histórico, sistemático, teleológico, lógico- conceptual…por lo
que- de nuevo y sin que por ello no sea importante- se vuelve a indicar que la
influencia en estos temas de la IA va a ser relativa. Las mejores aplicaciones
de la inteligencia artificial en el Derecho serán:
. - Organización de grandes bases
de datos: lo que llamamos Big Data. La inteligencia artificial te permite
contar con grandes bases de datos y extraer información valiosa de las mismas.
Esto permite a los abogados encontrar patrones y tomar decisiones con una mayor
información. Ya se está haciendo y numerosos bases de datos trabajan en el
estudio milimétrico del material legal.
. - Gestión de procesos: La
inteligencia artificial permite automatizar la gestión de tareas, creándolas de
manera automática cuando detecta una necesidad, enviando información relevante
que rastree y clasificando documentos conforme se reciben. Ya se maneja en la
realidad cotidiana un expediente automatizado y digital.
. - Atención al cliente. Muchos
despachos de abogados implementan los conocidos chatbots, que funcionan con
inteligencia artificial. Estos chatbots entregan respuestas a los clientes sin
necesidad de que medie un abogado. Así se ahorra tiempo, se evitan esperas y se
consigue fidelizar a clientes.
. - Generación de documentos: sin
duda alguna, la redacción de textos es una de las tareas más pesadas para un
abogado. Por ello, existe inteligencia artificial capaz de generar contenido
mediante promts. El abogado puede incluir este contenido en sus ensayos,
contratos o cualquier documento legal con el peligro de que no se debe dar
nunca el trabajo por hecho si no se revisa íntegramente.
Conocidas son las herramientas
como Chat GPT o Copy.ai. Se encargan de responder preguntas, redactar textos,
entre muchas otras, pero la labor jurídica debe seguir en su esencia como tal[24].
¿Existen abogados robots? ¿Se podrá contratar a la inteligencia artificial para
que te defienda en un juicio? Por el momento, estas cuestiones no forman parte
de una realidad a corto plazo, ya que se necesita seguir desarrollando esta
tecnología para llegar a ese nivel. Únicamente en algunos países, como China,
han unido robótica, inteligencia artificial y Derecho para usar jueces
virtuales. La cuestión es que al Derecho le queda un largo camino por recorrer
para desarrollar estas innovadoras ideas. Además, tienen que resolver numerosas
cuestiones: ¿debe tener personalidad jurídica un robot? ¿Tienen derechos y
obligaciones? ¿Quién se responsabiliza de las decisiones que tome una máquina?
La Unión Europea quiere elaborar una serie de medidas para regular esta
tecnología, la ley de IA lo que quiere como principio es que exista un control
ético y que se pueda saber el contenido creado por IA de una manera clara y
meridiana.
Aun así, no todo son obstáculos.
Hay universidades que resuelven casos a través de inteligencia artificial:
analizan los hechos, precedentes y las argumentaciones. En otros casos, esta
tecnología se usa para recuperar y tratar documentación jurídica. Una de las
herramientas estrellas es Luminance, que se encarga de procesar información
legal para que los abogados ahorren tiempo en la búsqueda y análisis de los
contenidos, pero siempre se entiende como complemento en ese aprendizaje: no
deja la doctrina de intentar un respiro, una reflexión desde el Derecho,
tratamos de derechos ajenos y, sobre todo, de justicia[25].
Aunque todavía queda mucho camino
por recorrer, la inteligencia artificial acabará fundiéndose con ramas como el
Derecho de una manera casi inescindible, fondo y forma a la vez. Y es que no
viene para sustituir a abogados, sino para facilitar su trabajo y reducir la
posibilidad de que aparezcan errores. Por ello, hay que ser consciente de que
esta es la realidad y no otra.
CONCLUSIONES DEL MOMENTO DE LAS
IAS
Existen enormes instrumentos de
IA por las propias bases de datos que se utilizan por los juzgados y abogados.
Cada vez se obtiene la documentación para la argumentación de forma más eficaz
y precisa (CHAT GPT, en generación de contenidos Articoolo, que crea un
documento único como lo haría un cerebro humano teniendo un artículo coherente
en contenido en unos minutos con los peligros que ello pueda representar en una
defensa jurídica) y de las más variadas formas. Jasper, antes conocida como
Jarvis, es una herramienta que, gracias a sus funcionalidades de SEO y
copywriting, nos ayuda a escribir artículos atractivos y que generen
conversión. Genera títulos y descripciones para llamar la atención de nuestros
lectores, ya que es capaz de ajustarse al tono de tu marca. Para marketing de
los juristas, Cortex es una aplicación de inteligencia artificial que se enfoca
en mejorar el aspecto visual de las imágenes y vídeos de los posts en redes
sociales con el objetivo de que generen más interacción y puedan volverse virales.
Como vemos, no existe faceta de la vida del jurista que no tenga una IA a la
que recurrir, por ello, durante todo el trabajo se ha intentado llamar
Inteligencias Artificiales al conjunto de estas prestaciones. Básicamente, usa
datos e insights para automatizar la creación de fotos y vídeos que den mejores
resultados. Node es una aplicación de inteligencia artificial enfocada en la
generación de clientes potenciales. Ofrece a los equipos de marketing y ventas
una guía para identificar sus mercados y acelerar sus ganancias. Su
inteligencia artificial puede sumergirse en montones de datos para encontrar al
cliente potencial ideal teniendo en cuenta la información que ha recopilado
hasta el momento. Es así como predice y califica cuán perfilado y preparado
está el cliente potencial. No entramos ya en la creación de páginas web por la
IA, ni en las herramientas para tomar decisiones en mercadotecnia, ni en la
posibilidad de aumentar el producto jurídico por los influencers …todos estos
aspectos con plataformas de IA dedicadas a ello. A esto hay que añadir las más
actualizadas (Siri, IBM Watson, Google DeepMind, Inteligencia Artificial de
Facebook, Alexa, Sofia…) y teniendo en cuenta que muchas de estas inteligencias
artificiales tienen una versión de pago y otra que no, la brecha de esa
utilización está consolidada, OpenAi, Chatgpt, Midjoruney…
Veamos que hay muchas gratuitas,
citaremos algunas, no se ha querido analizar por no ser nuestro campo de
investigación la nueva categoría del trabajo digital y el estatuto del
trabajador digital[26]:
. - ChatGPT: la IA generativa por
excelencia es esta herramienta de OpenAI que tiene su versión gratuita y,
además, se puede usar desde el buscador Microsoft Bing.
. - Gamma: crea diapositivas,
presentaciones y diseños de sitios webs basados en lo que el usuario escribe y
luego puede pedir cambios y personalizarlo con sus gustos.
. - AgentGPT: pide una tarea y la
IA se encargará de panificar estrategias y navegar por la web de forma
automática hasta cumplirla.
. - Krisp: es una IA que evita
que se filtren los ruidos de las obras en la calle o los ladridos de tu perro
en una llamada.
. - Perplexity: ofrece fuentes a
textos que el usuario introduzca. Permite, por ejemplo, completar la biografía
de un texto escrito por ChatGPT.
No es necesario indicar que
aumentarán en potencial y calidad todas ellas, el papel en la argumentación,
aplicación e interpretación jurídica no puede ser desconocido por los
investigadores y la Universidad, proponiendo instrumentos éticos de uso, proponiendo
habilidad complementaria en su manejo que no incida en la escasez de valores y
esfuerzo, necesarios de nuevo, e incluso, indicando que, en las primeras etapas
formativas, es necesario aprender y aprehender contenidos para el desarrollo.
Contenidos éticos, hermenéuticos, de valores, de derechos humanos sociales e
individuales a los que el jurista no debe, no puede renunciar, por ello el
papel en la argumentación será como el sempiterno de la ciencia, llegará hasta
un punto, donde la verdad quizás no la sepa nadie, o Dios, o la fuerza
creadora…pero no la Inteligencia Artificial. La Doctrina deberá fomentar el
equilibrio y el manejo eficaz para la labor del jurista que es interpretar,
argumentar, motivar y convencer con las ideas y el Derecho. Desde la Universidad,
desde los colegios de abogados se están ofreciendo formación y productos que ya
conciben la IA como elemento conformador de la docencia y de la abogacía, pero
la preocupación sobre la labor esencial del jurista, el mantenimiento de los
principios, valores, criterios interpretativos existe de una manera como pocas
veces se recuerdan en doctrina jurídica, sin duda, porque la crisis del Covid
19 abrió- de forma obligada- una nueva forma de trabajar, de concebir cualquier
trabajo, y desde luego el jurídico, pero siempre con la perspectiva de que la
valoración y la ideología jurídica constitucional son la verdadera dirección en
la defensa de los derechos de jueces y juristas. Por tanto, la apuesta por las
Inteligencias Artificiales está llevándose a cabo de una manera rápida, pero
sin perder de vista el enorme problema ético que conlleva su uso en el sector
jurídico. Tanto es así que se organizan foros mundiales al efecto, por nombrar
el de la UNESCO tras la edición inaugural, organizada por la República Checa en
diciembre de 2022, el 2º Foro Global sobre la Ética de la Inteligencia
Artificial estará dedicado a Cambiar el panorama en materia de gestión de la IA,
Organizado por Eslovenia, bajo el patrocinio de la UNESCO, el Foro tendrá lugar
en el Centro de Congresos Brdo de Kranj los días 5 y 6 de febrero de 2024. El
rápido auge de la inteligencia artificial (IA) ha generado nuevas oportunidades
a nivel global: desde facilitar los diagnósticos de salud hasta posibilitar las
conexiones humanas a través de las redes sociales, así como aumentar la
eficiencia laboral mediante la automatización de tareas.
Sin embargo, estos rápidos
cambios también plantean profundos dilemas éticos, que surgen del potencial que
tienen los sistemas basados en IA para reproducir prejuicios, contribuir a la
degradación del clima y amenazar los derechos humanos, entre otros. Estos
riesgos asociados a la IA se suman a las desigualdades ya existentes,
perjudicando aún más a grupos históricamente marginados y ello no debe suceder
tampoco en la implementación de las IA en la argumentación y motivación
jurídica y judicial a nivel nacional ni internacional. La propia UNESCO sitúa
el plano ético como el principal, muchos son los desafíos:
·
La falta de transparencia de las herramientas de
la IA: Las decisiones de la IA no siempre son inteligibles para los humanos.
·
La IA no es neutral: Las decisiones basadas en
la IA son susceptibles de inexactitudes, resultados discriminatorios, sesgos
incrustados o insertados.
·
Prácticas de vigilancia para la recopilación de
datos y la privacidad de los usuarios de los tribunales.
·
Nuevas preocupaciones por la equidad y el riesgo
para los derechos humanos y otros valores fundamentales.
El papel, por tanto, de los
principios, de los valores, de las ideas ontológicas fundantes de la Justicia
se convertirán pese a la lluvia de datos en el criterio hermenéutico estrella
para la argumentación de los escritos y alegaciones jurídicas, en ese empeño
deben estar todos los juristas y, desde luego, la Filosofía del Derecho como
central[27].
No cambiará la estructura, se analizará el supuesto de hecho y se subsumirá en
la norma si esta existe, si no existe, el Derecho tiene herramientas
(principios generales, analogía, interpretación extensiva, aplicación de
criterios que resuelven antinomias…) para poder argumentar correctamente la
problemática, siendo la IA un elemento esencial en esa labor y decisión, que
motivada, tiene que ser constitucional, proporcionada y pasar el test de toda
decisión judicial, respetuosa y garantista con los derechos fundamentales.
[1]
Bonsignore Fouquet, D. “Sobre inteligencia artificial, decisiones judiciales y
vacíos en la interpretación” en la Revista Teorder, número 29, 2021, pp.
248.277.
[2]
Pérez Brito, R.L. “La inteligencia
humana. La evolución de los derechos humanos” en la revista Derechos y
Libertades, número 45, junio 2021, pp.163.198.
[3] Bodanza,
G.A. “La argumentación abstracta en la Inteligencia Artificial: problemas de
interpretación y la adecuación de las semánticas para toma de decisiones” en la
Revista Theoria, número 30/3, 2015, pp. 395-414.
[4] Valero
Quispe, C,D. “Derecho e inteligencia artificial en el mundo de hoy: escenarios
internacionales y los desafíos que representan para el Perú” en la Revista
Themis, número 79,enero-junio 2021, pp. 311-322.
[5] Bodanza,
G,A. “Marcos de argumentación: relacionando principios para la evaluación de
las semánticas con juegos de justificación de argumentos” en Análisis
Filosófico, número 43, tomo 2, noviembre
2023, pp. 5-27.
[6] E.
Toulmin. Autor de otras importantes contribuciones a la filosofía de la ciencia
(The Philosophy of Science: An Introduction, 1953), a la ética (An Examination
of the Place of Reason in Ethics, 1950, y, en colaboración con A. R. Jonsen,
The Abuse of Casuistry: A History of Moral Reasoning, 1988), a la teoría de la
racionalidad (Cosmopolis: The Hidden Agenda of Modernity, 1990, y Return to
Reason, 2001) o a la historia de las ideas (con A. Janik, Wittgenstein Vienna,
1973).
Su compromiso fue siempre con la racionalidad, pero
con la racionalidad, podemos decir, encarnada, no sub specie aeternitatis, con
la racionalidad en su contexto. Tal vez por ello, como ahora es bien conocido,
la idea central de Toulmin en este libro es que argumentar consiste en aportar
unos datos (data) que llevan a una conclusión (claim), fundados en una garantía
(warrant), que cuenta con un respaldo (backing), y que no ha sido revocada
(rebuttal). Se ha convertido en una de las obras cruciales de la teoría de la
argumentación, la teoría del discurso, la lógica informal, la retórica y la
inteligencia artificial. Su recepción en la teoría jurídica goza también de un
gran predicamento.
[7] Richard, E. Is the fun over?
The return of the plot narrative rational, ¿Se acabó la diversion? El
regreso del relato argumental racional, en la Revista Más poder local, número
50, 2022, pp. 32.48. Analiza la argumentación aristotélica no sólo como
racional sino como movilización del auditorio, las fake news, los big data,
deben tener un límite ético y de ideas.
[8] Suárez
Manrique, W,Y; De León Vargas, G,I; Monsalve Pinto, J.J. “Un análisis sobre la
aplicabilidad de la inteligencia artificial en el derecho colombiano” en la
Revista Prolegomenos, julio-diciembre 2023, número 52, vol 26, pp. 11-23.
[9] Moral
Soriano, L. “Criaturas empíricas en un mundo normativo: la Inteligencia
Artificial y el Derecho” en Revista de Derecho Público: Teoría y Método, vol.7,
2023, pp. 151-174. En este trabajo se trata de la justificación externa e
interna de las decisiones judiciales, y administrativas y la incidencia
complementaria de las IA.
[11] Hay
trabajos muy estimables de este tem, el de Borges Blázquez, R. “El sesgo de la
máquina en la toma de decisiones en Derecho Penal” en la Revista Ius et
Scientia, número 2, vol.6, 2020, pp.54-71.
[12] Ya en
2010 en la II Conferencia de Lógica, Argumentación y Pensamiento Crítico,
celebrada en Santiago de Chile, 7-9 de octubre Alessio, C y Bodanza, G.
presentaron su trabajo “Sobre la aceptabilidad de argumentos en un marco
argumentativo con especificidad”, donde se analiza la mayor fuerza en
psicología del argumento cuanto menor sea la opción para elegir en los
receptores.
[13] Nadie
duda de los efectos positivos en implementación de los datos, si todos pueden
acceder, en el cumplimiento normativo, pero como cualquier innovación tiene sus
limitaciones, en este sentido, Muradas Antunes,D. “Inteligencia Artificial: el
Derecho y el Revés” en la Revista Nueva Sociedad, número 294, 2021, pp.96-108.
[14] Tierno
Barrios, S. “Inteligencia Artificial y ADR: acceso a la justicia con
perspectiva de género” en la Re vista de estudios Jurídicos y Criminológicos,
número 5, 2022, pp. 25-53.
[15] Gil
Aluja, J. “De la razón artificial a la inteligencia artificial” en Revista
Encuentros multidisciplinares, vol. 22, número 64, 2020.
[16] Martínez Ramil, P. Is the EU rights
legal framework able to copy with discriminatory AI? En Dret, número 34,
2021, pp. 114, tata el tema de la discriminación producida por la propia IA,
discriminación indirecta, pero los resultados por proxy pasarán el juicio de
proporcionalidad, lo que puede justificar el resultado discriminatorio.
[17] Se
hablará de ejercer de otra forma, que, desde el punto de vista jurídico, se
traduce en inmediatez de datos y de acceso a documental y de trato más directo
con el cliente, así ver, Villaseñor, J. “Revolución en el ejercicio de la
abogacía: impacto de la IA” en Vanguardia Dossier, número 90, 2024, pp.74.76.
[18] Se
analiza ya en 2020 las Consideraciones del Consejo de la Abogacía Europea sobre
inteligencia artificial, por Fernández Conte, J. en Derecho Digital e
Innovación, número 5, abril.junio, 2020.
[19] No
hablamos de funcionario como otros, o de una parte que puede funcionar
correctamente en la Administración pública en este caso, ver Rivero Ortega, R,
¿Pueden los robots reemplazar a los funcionarios? May robots replace civil
servants? En Derecho Digital e Innovación , número 16, diciembre 2023 la Ley,
donde analiza el informe OCDE “Hello Word” dedicado al uso de las IA aplicadas
al sector público, en los usos europeos que varios países ya hacían de las IA
por efectividad.
[20] Se
índice en un uso ético de las IA como indica la Carta Europea sobre el uso
ético de la IA en los sistemas judiciales y su entorno, aprobada ya en un
lejano- a nivel de la IA- 2028 por la Comisión Europea cifrando los grandes
principios que esta implementación judicial tendrá que respetar: respeto a los
derechos fundamentales, transparencia, imparcialidad y equidad, principio de
calidad y seguridad, no discriminación, y el discutido aquí principio de
control del usuario en sede judicial que deberá ser tamizado.
[21] Rivas
Velasco, M.J. “Uso ético de la Inteligencia Artificial” en el Diario la ley, 13
de julio 2023.
[22]
Oliveria Texeria Do Santo, M. “Digitalización de la Justicia: Inteligencia
Artificial y eficiencia en el ámbito de los sistemas español y alemán” en la
ley penal, número 165, noviembre-diciembre de 2023.
[23] La
doctrina se ha centrado en ser equilibrada, riesgos y beneficios, es
interesante el trabajo de Martínez Rodríguez, O,M. “Inteligencia artificial:
riesgos y desafíos en su regulación” publicado en Actualidad Administrativa,
número 12, diciembre de 2023, análisis del Libro Blanco y de la normativa
europea en Inteligencia Artificial.
[24] Tiene
mucha razón Barquero Soriano, A. “¿Sueñan los juristas con argumentaciones
eléctricas? Porque Chatgpt no acabará con los (buenos) abogados- ni tampoco con
los jueces” en el Diario la ley, 19 de julio de 2023.
[25] Davara
Fernández de Marcos, E. “Inteligencia Artificial y más ¿necesaria, obligatoria
posible o inconveniente a nivel legal y judicial? En Actualidad Administrativa,
número 12, diciembre de 2023, La Ley
[26] Melian
Chinea, L.M. “Análisis crítico de la Declaración Europea sobre los derechos y
principios digitales para la década digital: un nuevo llamamiento al diálogo
social” en Trabajo y Derecho, Sección Unión Europea y Agenda internacional,
marzo 2023.
[27] Ya
existe una obra que aborda casi todos los temas y se ha de destacar de nuevo,
Llano Alonso, F.H.(dir); Garrido Martin,J. (coord); Valdivia Giménez, R.D. Inteligencia
Artificial y Filosofía del Derecho.Editado por Laborum y Ministerio del
Trabajo, 2022. En esta completa obra se tratan los problemas de los algoritmos
en los derechos fundamentales, reflexiones sobre justicia y digitalización, la
fragilidad del concepto “verdad” en la era digital, las transformaciones de la
ciudadanía en este nuevo momento, el automatismo de las IA, así como el
metaverso, la privacidad digital, los desafíos en materia de robótica, la
justicia predictiva, la personalidad jurídica de los robots, el nuevo Derecho
del trabajo digital, la justicia digital, y también el problema desde la esfera
internacional: el valor de la Carta de la ONU en la regulación internacional de
la IA, el fenómenos globalizado de las desinformación, las decisiones
automatizadas y la argumentación, y el estudio del Estado de Derecho digital en
Europa… modestamente, hemos querido acercarnos a la visión más estricta del
papel de la argumentación de estas inteligencias artificiales.
Comentarios
Publicar un comentario