AI‑LEARN (URJC): integración práctica de asistentes legales y responsabilidades profesionales

 Santiago Carretero — 19 de noviembre de 2025 

profesor Titular de Filosofía del Derecho, URJC

Resumen de la entrada como idea central: La Universidad Rey Juan Carlos ha inaugurado el laboratorio AI‑LEARN, un espacio docente y experimental que incorpora asistentes legales basados en inteligencia artificial y entornos inmersivos para la formación práctica de estudiantes de Derecho. Esta entrada explica la estructura técnica del laboratorio, evalúa las implicaciones jurídico‑profesionales y propone medidas doctrinales y prácticas para su uso responsable en la docencia y en la profesión.

1. Naturaleza técnica del laboratorio y herramientas desplegadas

AI‑LEARN integra tres capas técnicas básicas:

• Interfaz de usuario educativa. Plataformas basadas en web que orquestan escenarios procesales y de asesoramiento simulados.
• Asistentes legales conversacionales. Modelos de lenguaje afinados para tareas de revisión documental, generación de minutas y propuestas de estrategia procesal; su entrenamiento combina datos públicos y corpora jurídicos anonimizados.
• Entornos de simulación inmersiva. Módulos que permiten la recreación de vistas orales y negociaciones mediante AV/VR para practicar pleitos y diligencias.

Desde el punto de vista técnico, resulta esencial que los modelos incorporen: (i) mecanismos de trazabilidad de la cadena de decisión (logging y metadata), (ii) controles de acceso y segregación de datos, y (iii) políticas de actualización y despliegue que incluyan pruebas de regresión jurídica.

2. Riesgos jurídicos principales

Responsabilidad profesional: el uso de asistentes para la redacción o revisión de documentos plantea la cuestión de quién responde por errores —el estudiante, el centro, el proveedor del servicio o el abogado supervisor—, particularmente cuando el producto se utilice en prácticas clínicas con clientes reales.

Protección de datos y secreto profesional: deben aplicarse criterios de minimización y anonimización; los entornos no pueden procesar datos personales sin consentimiento informado ni garantías contractuales y técnicas que aseguren el cumplimiento del RGPD.

Transparencia y explicabilidad: la información generada por modelos debe ir acompañada de metadatos que indiquen la procedencia, fecha de corte y limitaciones del sistema. En escenarios formativos, esto es requisito pedagógico y deontológico.

Sesgos y calidad jurídica: la dependencia excesiva de sugerencias automáticas puede introducir sesgos doctrinales o prácticos si los modelos han sido entrenados sobre fuentes incompletas o no representativas.

3. Consecuencias aplicadas a la enseñanza y a la práctica supervisada

En el ámbito académico, la incorporación de estas herramientas exige adaptar los planes formativos para incluir competencias de evaluación crítica de sistemas de IA (capacidad para verificar resultados, detectar sesgos y realizar auditorías mínimas). En la práctica supervisada, conviene establecer protocolos escritos de supervisión —por ejemplo: revisión humana obligatoria, firma del profesional responsable, y registro de versiones— para que la intervención algorítmica no desplace la responsabilidad profesional.

4. Marco normativo aplicable (síntesis)

A escala europea, la AI Act y el Reglamento General de Protección de Datos (RGPD) configuran el marco operativo: la primera impone obligaciones de evaluación de riesgos y de documentación técnica (kits de mitigación, logs), y el segundo exige tratamientos lícitos, minimización y garantías contractuales cuando se manejen datos personales. En el plano nacional, la normativa deontológica profesional y las instrucciones universitarias sobre prácticas clínicas complementan estas obligaciones y deben armonizarse con las exigencias técnicas del despliegue.

5. Propuestas prácticas y doctrinales

Se propone incorporar al centro docente un conjunto de medidas operativas y doctrinales redactadas con criterio profesional y riguroso. Estas propuestas buscan equilibrar la innovación pedagógica con salvaguardas jurídicas y deontológicas que protejan a estudiantes, terceros y la institución. Entre las medidas: establecer cláusulas contractuales tipo con proveedores que incluyan obligaciones de trazabilidad y auditoría, crear checklists de validación jurídica para outputs de los modelos, implantar registros de actividad de los asistentes y exigir el consentimiento informado para cualquier uso de datos reales en prácticas.

Adicionalmente, desde la doctrina se debe propiciar un esfuerzo coordinado para definir estándares mínimos de formación en competencias digitales jurídicas, armonizar criterios de responsabilidad en supuestos de producción automatizada de documentos y promover modelos de supervisión profesional que preserven la centralidad del juicio humano en decisiones jurídicas críticas.

Fuentes y referencias citadas:

• Nota informativa sobre el laboratorio AI‑LEARN — Universidad Rey Juan Carlos, 19 de noviembre de 2025. (Comunicado institucional y dossier técnico del laboratorio).
• Cobertura periodística: "En el laboratorio AI‑LEARN de la Universidad Rey Juan Carlos redefine la educación jurídica" — LawyerPress, 19 de noviembre de 2025. Disponible en: LawyerPress.
• Reglamento (UE) 2016/679 (RGPD) y propuesta/Directrices aplicables de la AI Act — documentación europea vigente y borradores de 2025 sobre obligaciones de transparencia y evaluación de riesgos. BlogdeIaActual — blogdelaiaactual.blogspot.com