La inteligencia artificial generativa como fuente de nuevas intromisiones ilegítimas en los derechos de la personalidad: el caso de X

 

La inteligencia artificial generativa como fuente de nuevas intromisiones ilegítimas en los derechos de la personalidad

Santiago Carretero Sánchez
 Profesor de Universidad Rey Juan Carlos

La utilización de sistemas de inteligencia artificial generativa para la creación de imágenes de personas identificables en contextos sexualizados plantea un supuesto paradigmático de actualización tecnológica de categorías jurídicas clásicas. Desde la perspectiva del Derecho civil y constitucional, el elemento decisivo para la valoración jurídica de estas conductas no es la naturaleza sintética del contenido generado, sino su aptitud para producir una lesión efectiva de los derechos de la personalidad, en particular del derecho al honor, a la intimidad personal y familiar y a la propia imagen.

La representación visual atribuida mediante inteligencia artificial constituye una forma de imputación social de una apariencia o comportamiento no consentido. En este sentido, la inexistencia de un referente real no neutraliza el daño, ya que la lesión se produce en el plano de la percepción social y de la dignidad personal del sujeto representado. La inteligencia artificial opera, así, como instrumento técnico de una intromisión ilegítima que resulta plenamente subsumible en las categorías tradicionales de tutela de la persona.

Esta problemática adquiere una dimensión cualitativamente distinta cuando las personas afectadas son menores de edad. La generación y difusión de imágenes sexualizadas mediante sistemas de inteligencia artificial incide directamente en bienes jurídicos especialmente protegidos, vinculados al libre desarrollo de la personalidad y a la indemnidad sexual del menor. La valoración jurídica de estas conductas no puede quedar condicionada por la artificialidad del soporte, puesto que el ordenamiento protege al menor frente a cualquier forma de cosificación o sexualización, con independencia del medio empleado.

Desde el punto de vista de la responsabilidad jurídica, la experiencia demuestra que la autorregulación tecnológica resulta insuficiente para garantizar una protección efectiva de los derechos fundamentales. Los mecanismos de control introducidos por los operadores de sistemas de inteligencia artificial suelen activarse como reacción a la presión normativa o institucional, lo que evidencia la necesidad de un marco jurídico claro que imponga obligaciones de diligencia ex ante. En este contexto, la inteligencia artificial deja de ser un mero objeto técnico para convertirse en un ámbito específico de imputación de responsabilidad.

La consolidación de un modelo normativo preventivo se manifiesta de forma especialmente clara en el Derecho europeo de la inteligencia artificial. La exigencia de evaluaciones de riesgo, salvaguardas técnicas y medidas organizativas adecuadas responde a la necesidad de integrar la protección de los derechos fundamentales en el propio diseño del sistema. De este modo, la responsabilidad ya no se limita a la reparación del daño causado, sino que se proyecta sobre la omisión de medidas razonables de prevención.

Desde una perspectiva docente, este enfoque permite mostrar al estudiante que la inteligencia artificial generativa no introduce una ruptura con el sistema jurídico, sino una reformulación de problemas conocidos en un nuevo entorno tecnológico. Las categorías clásicas del Derecho de la persona y de la responsabilidad continúan siendo plenamente operativas, siempre que se interpreten de manera funcional y finalista. La enseñanza del Derecho de la inteligencia artificial debe, por tanto, orientarse a la identificación de los bienes jurídicos afectados y a la correcta aplicación de los mecanismos de tutela existentes, evitando soluciones meramente tecnicistas o excepcionales.

En consecuencia, la inteligencia artificial generativa se integra en el contenido propio de los manuales universitarios de Derecho civil, constitucional y penal, no como un fenómeno marginal, sino como un ámbito transversal que exige una comprensión sistemática de los principios fundamentales del ordenamiento jurídico en la sociedad digital.