¿Puede la IA obedecer la ley? Hacia un marco de "Law‑Following AI"
¿Puede la IA obedecer la ley? Hacia un marco de "Law‑Following AI"
Resumen ejecutivo: en fechas recientes se han difundido trabajos académicos que plantean la posibilidad técnica y normativa de diseñar sistemas de inteligencia artificial que, sin convertirse en sujetos de Derecho, respeten y ejecuten reglas legales de manera verificable. Estos desarrollos —a los que nos referiremos como marcos "Law‑Following"— combinan avances en verificación, trazabilidad y arquitectura de agentes para reducir riesgos de incumplimiento, pero plantean problemas doctrinales y prácticos que conviene discutir con rigor.
1. ¿Qué proponen los trabajos recientes?
Los artículos más relevantes disocian dos ideas: (i) la conveniencia técnica de dotar a agentes o modelos de componentes que comprueben normas aplicables antes de ejecutar acciones, y (ii) la conveniencia jurídica de imponer obligaciones de cumplimiento verificable sobre quienes diseñan, despliegan o supervisan esos agentes. En el plano técnico se proponen mecanismos de verificación de normas, módulos de referencia jurisprudencial y pipelines de fuentes que pretenden evitar la llamada "alucinación" normativa; en el plano jurídico se discute hasta qué punto estas exigencias configuran deberes de diligencia, obligaciones de documentación y deberes de auditoría.
2. Problemas jurídicos centrales
Responsabilidad: si un agente "cumplidor" comete un error, ¿quién responde? La respuesta más coherente con nuestro ordenamiento es que la responsabilidad continúa siendo humana: desarrolladores, operadores o entidades titulares. Sin embargo, los marcos de cumplimiento verificable pueden desplazar la atención hacia obligaciones procesales (registro de decisiones, pruebas de verificación) que modificarían la prueba en la fase de responsabilidad.
Personalidad jurídica y límites: la propuesta de considerar a la IA como actor legal con derechos y deberes genera muchas más incertidumbres que soluciones. Los marcos emergentes rehuyen esa vía y proponen una aproximación instrumental: imponer exigencias sobre sistemas y sus titulares sin conferirles personhood.
Jurisdicción y aplicabilidad: un sistema diseñado para "obedecer" normas en una jurisdicción puede comportarse de forma inadecuada en otra. Esto exige mecanismos de contextualización normativa y controles de vigencia temporal —no sólo reglas técnicas, sino controles de gobernanza con capacidad para actualizar la base normativa—.
3. Riesgo de "performative compliance"
Hay un riesgo real de que los mecanismos de verificación se conviertan en mera apariencia: sistemas que, en ensayos y auditorías, parecen cumplir la ley pero en operación real actúan de modo distinto (comportamiento performativo). Para evitarlo es imprescindible combinar verificaciones automáticas con muestreo aleatorio de decisiones, auditorías independientes y sanciones efectivas por manipulación o por diseño que facilite la elusión.
4. Consecuencias regulatorias y de diseño
Desde la perspectiva regulatoria, el avance sugiere dos líneas complementarias: exigir obligaciones procesales (registro de fuentes, logs de decisión, protocolos de actualización normativa) y fomentar estándares técnicos que faciliten la interoperabilidad y la auditoría. Desde el diseño, conviene separar claramente los componentes de razonamiento normativo de los componentes ejecutores, para que las decisiones puedan ser reconstruidas y sometidas a revisión humana cuando proceda.
5. Referencias principales
6. Análisis crítico
Los marcos "Law‑Following" son prometedores pero no eximen de prudencia doctrinal. Primero, trasladan el centro del debate desde la atribución de personalidad jurídica a la construcción de obligaciones procedimentales: la ley puede exigir transparencia, trazabilidad y auditoría sin otorgar derechos a la máquina. Segundo, la fiabilidad técnica aún no es plena: la reducción de alucinaciones es un avance, no una garantía absoluta. Tercero, la eficacia normativa dependerá de sanciones coercitivas y de la capacidad institucional para auditar y actualizar normas aplicables.
7. Propuestas doctrinales y conclusiones
En este punto final presento, con tono docente y riguroso, algunas propuestas doctrinales de aplicación inmediata. Las propuestas se redactan como párrafos continuos, sin numeración, siguiendo la preferencia del autor. Es necesario incorporar en el Derecho positivo obligaciones procesales específicas: registro obligatorio de fuentes normativas consultadas por el agente, preservación de logs de decisión con firma temporal y mecanismos de acceso para autoridades y auditores independientes. Además, debe establecerse una presunción legal de diligencia cuando se acredite la existencia de procesos de verificación automatizados certificados por entidades de normalización acreditadas, sin que ello suponga exención de responsabilidad civil o penal. Propongo crear un régimen de obligaciones contractuales tipo que las administraciones públicas y grandes empresas incluyan en sus contrataciones de IA, que obligue a proveedores a mantener documentación técnica, actualizar catálogos normativos y someterse a auditorías periódicas. Finalmente, la formación jurídica y técnica es esencial: los juristas deben incorporar competencias mínimas en evaluación de modelos y las organizaciones deben nombrar responsables de cumplimiento tecnológico que interactúen con auditorías externas y con órganos reguladores.
Comentarios
Publicar un comentario