Conversaciones prohibidas: la IA y la protección de los menores


 

Conversaciones prohibidas: la IA y la protección de los menores

Santiago Carretero Sánchez — Profesor Titular de Filosofía del Derecho, Universidad Rey Juan Carlos
blogdelaiaactual.blogspot.com · 16 de agosto de 2025

La reciente cobertura de The Guardian (15/08/2025) sobre políticas de chatbots de Meta capaces de mantener conversaciones de carácter romántico o sensual con menores ha reactivado un debate esencial: ¿qué límites normativos y éticos deben regir las interacciones entre IA y menores?

1) Núcleo jurídico: el principio de interés superior del menor y el deber reforzado de protección exigen reglas estrictas para entornos conversacionales. Ello implica prohibir funcionalidades que exploten vulnerabilidades afectivas, imponer evaluaciones de impacto específicas (privacidad y derechos fundamentales), trazabilidad de decisiones y auditorías independientes. Los incumplimientos deben acarrear sanciones efectivas y medidas correctivas rápidas.

2) Filosofía del Derecho aplicada: desde una lectura kantiana, un menor no puede ser tratado como medio para engagement o experimentación. La autonomía en formación exige cautelas superiores: la IA que incentiva vínculos pseudoafectivos con menores instrumentaliza a la persona y vulnera su dignidad. La ética del diseño debe anteponer límites categóricos a cualquier argumento de eficiencia.

3) Régimen práctico propuesto: (i) obligación de desactivar por defecto cualquier modo romántico/sensual en canales accesibles a menores; (ii) verificación robusta de edad y age-appropriate design; (iii) registro público de sistemas conversacionales con indicadores de riesgo; (iv) supervisión externa con capacidad sancionadora; (v) vías de reparación accesibles y rápidas para familias y tutores.

Lectura docente: la protección a menores frente a sistemas de IA no es una cuestión de autorregulación sino de garantías jurídicas y diseño responsable. La dignidad del menor actúa como límite material al producto y a la arquitectura de datos.

Fuente periodística: The Guardian, “Meta faces backlash over AI policy that lets bots have 'sensual' conversations with children” (15/08/2025).

© Santiago Carretero Sánchez. Profesor Titular de Filosofía del Derecho, Universidad Rey Juan Carlos. Publicado en blogdelaiaactual.blogspot.com. 

Comentarios

Publicar un comentario

Entradas populares de este blog

ESQUEMA DETALLADO DE ESCRITO AJUSTADO AL MASC (PARA LETRADOS)

  🧷 ESQUEMA DETALLADO DE ESCRITO AJUSTADO AL MASC (PARA LETRADOS) Por Santiago Carretero Sánchez, Profesor Titular de Filosofía del Derecho, Abogado       1. Encabezamiento Órgano judicial : Ilmo./a. Sr./Sra. Letrado/a de la Administración de Justicia del Juzgado de [Primera Instancia] nº ___ de [localidad]. Parte compareciente : D./D.ª [Nombre del letrado/a del solicitante], en nombre y representación de [cliente], conforme a poder/apoderamiento (notarial o apud acta) que se acompaña/se encuentra ya incorporado. Procedimiento : Indicar si es escrito autónomo previo a demanda o subsanación de requerimiento judicial (art. 438.1 LEC). 2. Exposición de antecedentes y hechos relevantes Breve reseña del conflicto : Detallar la controversia con hechos jurídicamente relevantes. Indicación de la voluntad de acudir a MASC : Expresar que, antes de iniciar/reanudar el procedimiento jud...
Leer más

EL MODELO DE INTENTO DE CONCILIACIÓN QUE IMPONE LA LEY DE EFICIENCIA PROCESAL, PROPUESTA DEL ICAM

  MODELO PARA LA ACREDITACIÓN DEL INTENTO DE NEGOCIACIÓN Y TERMINACIÓN DEL PROCESO SIN ACUERDO Artículo 10º.1 de la Ley Orgánica 1/2025, de 2 de enero, de medidas en materia de eficiencia del Servicio Público de Justicia     Artículo 10. Acreditación del intento de negociación y terminación del proceso sin acuerdo.   1. A los efectos de acreditar que se ha intentado una actividad negociadora previa y cumplir el requisito de procedibilidad, dicha actividad negociadora o el intento de la misma deberá ser recogida documentalmente .   2. Si no hubiera intervenido una tercera persona neutral, la acreditación se cumplirá mediante cualquier documento firmado por ambas partes en el que se deje constancia de la identidad de las mismas y, en su caso, de las personas profesionales o expertas que hayan participado asesorándolas , la fecha, el objeto de la controversia, la fecha de la reunión o reuniones mantenidas, en su caso, y la declaración responsable d...
Leer más

Resumen de la Ley Orgánica 1/2025: mi nuevo resumen para comprender lo que va a pasar ( si es posible)

  Autor: Santiago Carretero Sánchez, Profesor Titular de la URJC El 3 de abril de 2025 entró en vigor la Ley Orgánica 1/2025, que establece la obligatoriedad de intentar un Mecanismo Alternativo de Solución de Conflictos (MASC) antes de interponer una demanda en el ámbito civil o mercantil. El Consejo General de la Abogacía Española (CGAE) ha publicado una guía para facilitar la comprensión y aplicación de esta nueva exigencia legal. ¿Qué son los MASC? La Ley Orgánica 1/2025 define los MASC de forma abierta como cualquier actividad negociadora para resolver un conflicto. Entre los MASC reconocidos se incluyen: - Mediación - Conciliación (pública o privada) - Negociación directa entre las partes - Oferta vinculante confidencial - Opinión de persona experta independiente - Derecho Colaborativo o Abogacía Colaborativa Ámbitos de aplicación y exclusiones La obligación de intentar una solución extrajudicial se aplica a todos los procesos declarativos y especiales regula...
Leer más