Sentencia del TJUE de 7 de diciembre de 2023:
Análisis Completo
DECISIONES AUTOMATIZADAS Y MARGEN ÉTICO EN SU USO
ADMINISTRATIVO Y JUDICIAL
Santiago Carretero
Profesor Titular de Filosofía del Derecho, URJC
Introducción
La sentencia de 7 de diciembre de 2023 del Tribunal de Justicia de la Unión
Europea (TJUE) representa un punto de inflexión en la aplicación del artículo
22 del Reglamento General de Protección de Datos (RGPD), que regula las
decisiones automatizadas. El caso, originado en Alemania, involucra a SCHUFA,
una agencia de scoring crediticio, y plantea cuestiones clave sobre la
transparencia, el alcance de las decisiones automatizadas y los límites de las
regulaciones nacionales.
Este análisis integra las notas a pie de página del comentario de Lorenzo
Cotino Hueso, publicado en Diario La Ley (2024), así como referencias a
doctrinas y opiniones críticas.
**Supuesto de Hecho**
El caso gira en torno a un ciudadano cuya solicitud de crédito fue denegada
debido al scoring crediticio generado por SCHUFA:
- **Hechos relevantes**: SCHUFA genera un valor de probabilidad utilizando
datos personales. Este valor, aunque no constituye una decisión final, influye
directamente en las decisiones de entidades bancarias.
- **Cuestión jurídica**: ¿La generación de un valor de probabilidad por parte
de una entidad como SCHUFA constituye una "decisión automatizada"
bajo el artículo 22 del RGPD?
Doctrina del TJUE
1Definición ampliada de "decisión automatizada:
- El TJUE establece que la generación
de un valor de probabilidad que influye decisivamente en la decisión final de
un tercero se considera una decisión automatizada según el artículo 22 (§
43-49).
- Se enfatiza que las decisiones
automatizadas no se limitan a actos con efectos jurídicos, sino también a
aquellos con impacto significativo en los interesados.
2. Margen de regulación nacional:
- El artículo 22 permite que los
Estados miembros establezcan normas nacionales adicionales, siempre que
respeten los principios de licitud, transparencia y minimización de datos (§
65-72).
- En este caso, el TJUE evaluó la ley
alemana, que regula el uso de valores de probabilidad, pero deja al juez
nacional la última palabra sobre su conformidad con el RGPD.
3.Proyección garantista:
- La sentencia impone obligaciones
incluso a entidades que no toman la decisión final, ampliando las garantías del
RGPD para cubrir todo el proceso de decisión automatizada (§ 61-69).
Notas relevantes y referencias doctrinales
El fallo fue precedido por las Conclusiones del Abogado General Priit Pikamäe,
quien subrayó la necesidad de una interpretación amplia y garantista del
artículo 22 RGPD.
**Nota 10**: Cotino Hueso analiza el fenómeno de "huida del Derecho",
donde la mínima intervención humana busca eludir las garantías de decisiones
automatizadas.
Nota 11: Según el Grupo de Trabajo del Artículo 29, la intervención humana debe
ser significativa y competente, no meramente simbólica, para cumplir con las
garantías del RGPD.
Nota 18: La evolución del Reglamento de Inteligencia Artificial (RIA) incorpora
criterios derivados de esta sentencia, como la influencia material de sistemas
automatizados en decisiones humanas.
**Comentarios de expertos**
**Lorenzo Cotino Hueso**:
- En su análisis, Cotino señala que el fallo refuerza el enfoque garantista del
TJUE y podría influir en la futura interpretación del Reglamento de
Inteligencia Artificial de la UE.
**Carlos B. Fernández** (Diario La Ley, 2023):
- Fernández comenta que el fallo autoriza el scoring crediticio en ciertas
circunstancias, pero establece límites claros sobre la conservación y uso de
datos personales.
**Valoración Crítica**
1. **Ampliación de garantías jurídicas**: La sentencia asegura que las
garantías del RGPD abarcan todo el ecosistema de decisiones automatizadas,
fortaleciendo la protección de datos en contextos complejos.
2. **Impacto en la legislación nacional e internacional**: Los criterios
establecidos por el TJUE servirán de referencia en futuras legislaciones
nacionales y en el desarrollo del Reglamento de Inteligencia Artificial.
3. **Proyección en sectores críticos**: La decisión tendrá especial relevancia
en sectores como finanzas, empleo y educación, donde la automatización de
decisiones está en expansión.
**Conclusión**
La sentencia TJUE de 7 de diciembre de 2023 establece una doctrina clave en la
interpretación del artículo 22 del RGPD, reforzando un marco garantista para
decisiones automatizadas y semi-automatizadas. Este fallo no solo fortalece la
protección de los derechos de los interesados, sino que también sienta las
bases para una aplicación más estricta del futuro Reglamento de Inteligencia
Artificial.
GRUPOS DE TRABAJO
ACTUALMENTE
En la Unión Europea,
actualmente existen varios grupos y organismos trabajando en el análisis y
regulación de decisiones automatizadas y la elaboración de perfiles, enmarcados
principalmente bajo el Reglamento General de Protección de Datos (RGPD) y el futuro
Reglamento de Inteligencia Artificial (RIA). Algunos de los grupos más
destacados incluyen:
Comité Europeo de
Protección de Datos (EDPB), que coordina la supervisión de sistemas de TI a
gran escala y establece directrices sobre decisiones automatizadas y perfiles
en virtud del RGPD. Este organismo desempeña un papel clave en la
interpretación y aplicación de las normativas, y recientemente ha emitido
dictámenes específicos para reforzar las garantías de transparencia y equidad
en decisiones automatizadas
EUROPEAN DATA PROTECTION
BOARD
Grupo de Trabajo del Artículo
29 (GT29), ahora integrado en el EDPB, emitió importantes directrices (como el
Dictamen WP251) para aclarar las obligaciones y restricciones relacionadas con
la toma de decisiones automatizadas y la elaboración de perfiles, destacando su
impacto potencial en los derechos fundamentales y proponiendo mejores prácticas
IAB SPAIN
AEPD
.
Comité de Supervisión
Coordinada (CSC), encargado de supervisar sistemas específicos, como el Sistema
de Información de Schengen II, para garantizar su conformidad con las
normativas sobre privacidad y decisiones automatizadas
EUROPEAN DATA PROTECTION
BOARD
.
Estos grupos trabajan de
manera continua en la mejora y desarrollo de políticas que regulen la IA y la
automatización, abordando también desafíos éticos y de gobernanza digital en
sectores clave como finanzas, empleo y administración pública.
El EDPB (European Data
Protection Board o Comité Europeo de Protección de Datos) es un organismo
independiente de la Unión Europea que garantiza la aplicación coherente del
Reglamento General de Protección de Datos (RGPD) y de otras normativas
relacionadas con la protección de datos en la UE.
Funciones principales:
Directrices y
recomendaciones: Emite guías para interpretar aspectos del RGPD, como la
elaboración de perfiles y la toma de decisiones automatizadas.
Resolución de disputas:
Actúa en conflictos entre autoridades de protección de datos de diferentes
Estados miembros.
Supervisión y
cooperación: Coordina acciones para garantizar la correcta aplicación del RGPD
en toda la UE.
Asesoramiento:
Proporciona opiniones a la Comisión Europea y otras instituciones sobre
legislación y políticas que afectan la privacidad y protección de datos.
El EDPB también trabaja
en conjunto con las autoridades nacionales de protección de datos para abordar
cuestiones emergentes, como el uso de inteligencia artificial, decisiones
automatizadas y transferencias internacionales de datos
JURISPRUDENCIA
1. Sentencia T-323 de
2024 de la Corte Constitucional de Colombia
Resumen: Este fallo
aborda el uso de herramientas de IA generativa, específicamente ChatGPT 3.5, en
procesos judiciales. La Corte concluyó que el uso de IA no reemplaza al juez
natural, pero establece principios fundamentales para su aplicación ética, como
transparencia, responsabilidad y no sustitución de la racionalidad humana【31】【32】【33】.
2. Sentencia del TJUE de
7 de diciembre de 2023
Resumen: Primera
sentencia que aplica el artículo 22 del RGPD, abordando decisiones
automatizadas en el contexto de los sistemas de scoring crediticio. El TJUE
enfatizó la importancia de las garantías legales frente a decisiones
automatizadas y estableció precedentes para su regulación futura
Aquí tienes una lista de
autores destacados que han trabajado en el análisis del uso de la inteligencia
artificial (IA) en la administración de justicia:
1. **Juan Gustavo
Corvalán**: Reconocido por el desarrollo del sistema **Prometea**, una
herramienta de IA aplicada en la administración pública y judicial para
optimizar tiempos y decisiones. Sus obras incluyen *Justicia 4.0* y *El impacto
de la IA en el derecho procesal*.
2. **Lorenzo Cotino
Hueso**: Profesor de Derecho Constitucional, ha explorado la relación entre big
data, IA y derechos fundamentales en artículos como *Big Data e Inteligencia
Artificial. Una aproximación a su tratamiento jurídico*.
3. **Joshua P. Davis**:
En su artículo *Law Without Mind*, analiza el impacto ético y jurídico de la IA
en la toma de decisiones legales, planteando los límites de su aplicación.
4. **Carlos Amunátegui
Perelló**: Autor de *Arcana Technicae. El Derecho y la Inteligencia
Artificial*, examina el papel transformador de la IA en el ámbito jurídico.
5. **Filippo Donati** y
**Simone Penasa**: Contribuyen al debate sobre la integración de IA en la
justicia, especialmente en el contexto del derecho constitucional y su
sostenibilidad frente a la automatización.
Estos autores ofrecen
perspectivas críticas y constructivas sobre cómo la IA puede complementar y
transformar la administración de justicia, siempre resaltando la necesidad de
preservar principios fundamentales como la transparencia, la responsabilidad y
la independencia judicial.
Comentarios
Publicar un comentario