Estudio advierte sobre el uso inadecuado de la IA y su impacto en el pensamiento crítico

 Santiago Carretero Sánchez 
Profesor Titular de Filosofía del Derecho, Abogado

Un estudio reciente realizado por Microsoft Research y la Universidad Carnegie Mellon ha puesto de manifiesto que el uso excesivo y acrítico de herramientas de inteligencia artificial (IA) puede mermar la capacidad de pensamiento crítico de los profesionales. Este fenómeno, denominado "convergencia mecanizada", se refiere a la tendencia de los usuarios a aceptar sin cuestionamiento las respuestas generadas por la IA, lo que podría conducir a una uniformidad en los enfoques y a una disminución en la diversidad de ideas y soluciones. Ello se debe combatir también desde el aspecto del fraude académico y científico. 

Implicaciones jurídicas del uso de la IA en el ámbito legal

En el contexto jurídico, la adopción de sistemas de IA plantea desafíos significativos. La "Recomendación sobre la ética de la inteligencia artificial" de la UNESCO, adoptada en noviembre de 2021, establecía directrices para garantizar que la IA se desarrolle y utilice de manera ética, respetando plenamente el derecho internacional y los derechos humanos. 

Asimismo, el Reglamento de Inteligencia Artificial de la Unión Europea, publicado el 12 de julio de 2024, clasifica los sistemas de IA en función de su nivel de riesgo y establece obligaciones específicas para proveedores y usuarios. Este reglamento busca proteger los valores y derechos fundamentales de los ciudadanos de la UE, imponiendo restricciones especialmente en sistemas que afecten la toma de decisiones humanas. 

Conclusiones

La integración de la IA en el ámbito jurídico ofrece oportunidades para mejorar la eficiencia y precisión en la práctica legal. Sin embargo, es crucial que los profesionales del derecho mantengan una actitud crítica y reflexiva al interactuar con estas tecnologías. La dependencia excesiva de la IA sin un análisis adecuado puede comprometer la calidad del razonamiento jurídico y, en última instancia, la justicia misma. La formación académica de profesores y alumnos en las herramientas jurídicas de la IA se impone como algo esencial en la campaña de sensibilización.

Por lo tanto, es imperativo que los juristas se familiaricen con las normativas vigentes, como la Recomendación de la UNESCO y el Reglamento de la UE, y adopten prácticas que integren la IA de manera ética y responsable. Solo así se garantizará que la tecnología sirva como una herramienta complementaria que potencie, y no disminuya, las capacidades críticas y analíticas esenciales en la profesión jurídica.