Responsabilidad civil y opacidad algorítmica: el nuevo giro europeo ante la IA generativa

 Responsabilidad civil y opacidad algorítmica: el nuevo giro europeo ante la IA generativa

 Santiago Carretero Sánchez Profesor Titular de la Universidad Rey Juan Carlos 

La evolución reciente del marco normativo europeo en materia de inteligencia artificial pone de manifiesto una creciente preocupación por la efectiva tutela de los derechos de los ciudadanos frente a los riesgos derivados del uso de sistemas de IA generativa. En este contexto, la Comisión Europea ha avanzado en la configuración de un régimen complementario al Reglamento de Inteligencia Artificial (AI Act), orientado específicamente a la responsabilidad civil por daños ocasionados por estos sistemas. El elemento más significativo de esta iniciativa radica en la introducción de mecanismos que atenúan la tradicional carga probatoria que recae sobre la víctima. 

En particular, se plantea la posibilidad de establecer presunciones de causalidad cuando concurran situaciones de opacidad algorítmica, esto es, cuando el funcionamiento interno del sistema resulte inaccesible o difícilmente comprensible incluso para operadores especializados. Este enfoque supone una alteración relevante de los esquemas clásicos de responsabilidad, aproximándose a modelos de responsabilidad cuasi objetiva. Desde una perspectiva estrictamente jurídica, la propuesta plantea interrogantes de notable calado. En primer lugar, la compatibilidad de estas presunciones con los principios generales del Derecho de daños, especialmente en lo relativo a la exigencia de prueba del nexo causal. En segundo término, la posible incidencia sobre la seguridad jurídica de los desarrolladores y proveedores de sistemas de IA, quienes podrían verse expuestos a un incremento significativo del riesgo litigioso. 

Asimismo, resulta especialmente relevante la interacción entre este régimen de responsabilidad y otras normas del ordenamiento europeo, singularmente el Reglamento General de Protección de Datos (RGPD) y la futura normativa sobre responsabilidad por productos defectuosos adaptada a entornos digitales. La convergencia de estos instrumentos normativos configura un ecosistema jurídico complejo, en el que la delimitación de responsabilidades exigirá un análisis casuístico particularmente riguroso. En definitiva, la orientación adoptada por la Comisión Europea evidencia una clara voluntad de reforzar la posición jurídica de los perjudicados por sistemas de inteligencia artificial, aun a costa de introducir tensiones en los principios tradicionales de imputación de responsabilidad. 

Nos encontramos, por tanto, ante un momento de transición en el que el Derecho de daños se ve obligado a adaptarse a las especificidades técnicas y funcionales de la inteligencia artificial, con implicaciones que previsiblemente marcarán la evolución doctrinal y jurisprudencial en los próximos años.