SB 243 (California): Transparencia y Salvaguardas para Chatbots
BLOG JURÍDICO Y DOCENTE DEL PROFESOR SANTIAGO CARRETERO
BLOGDELAIAACTUAL.BLOGSPOT.COM
SB 243 (California): Transparencia y Salvaguardas para Chatbots
Análisis jurídico docente de la primera ley estatal en EE. UU. que exige a los chatbots declararse como inteligencia artificial y regula su interacción con menores.
Por: Prof. Santiago Carretero — 14 de octubre de 2025
1. Contenido esencial de la SB 243
La Senate Bill 243, firmada por el gobernador Gavin Newsom el 13 de octubre de 2025, introduce un marco pionero en materia de transparencia algorítmica. Exige que cualquier sistema conversacional o companion chatbot advierta expresamente al usuario de que está interactuando con una inteligencia artificial y no con un ser humano.
Asimismo, impone a los proveedores la obligación de mantener auditorías periódicas de seguridad y de presentar un informe anual con las medidas aplicadas para prevenir riesgos, especialmente cuando los usuarios puedan encontrarse en situaciones de vulnerabilidad emocional o riesgo de autolesión.
2. Veto de la AB 1064 y política legislativa californiana
Simultáneamente, el gobernador vetó el proyecto Assembly Bill 1064 (LEAD for Kids Act), que buscaba restringir de manera más amplia el acceso de menores a chatbots. En su comunicado, Newsom calificó la propuesta como “demasiado amplia y potencialmente lesiva para el uso legítimo educativo o terapéutico”.1
De este modo, California opta por un equilibrio regulatorio: no prohíbe la existencia de chatbots dirigidos a menores, pero exige una gestión diligente, trazable y documentada de sus riesgos.
3. Efectos jurídicos y responsabilidad civil
La SB 243 establece estándares mínimos de diligencia técnica que, en el ámbito civil, pueden convertirse en criterios de valoración de la culpa o negligencia del operador. La omisión de medidas de advertencia o auditoría podría considerarse infracción del deber de cuidado y dar lugar a responsabilidad por daños.
Desde el punto de vista procesal, la existencia de informes y registros exigidos por la ley facilitará la prueba tanto del cumplimiento como de la infracción. Se refuerza así la cultura del compliance tecnológico en la industria de la inteligencia artificial.
4. Dimensión constitucional y armonización normativa
El requisito de transparencia —declarar que el chatbot es una IA— no plantea conflictos significativos con la libertad de expresión protegida por la Primera Enmienda, al tratarse de una obligación informativa proporcional. No obstante, la fragmentación legislativa entre estados puede generar conflictos de competencia y plantea la necesidad de un marco federal que unifique criterios sobre responsabilidad y transparencia algorítmica.
5. Recomendaciones prácticas
- Incorporar avisos visibles en la interfaz y en los términos de servicio que indiquen la naturaleza artificial del agente.
- Conservar registros de auditorías y documentación de cumplimiento al menos durante tres años.
- Desarrollar protocolos internos para la detección y derivación de usuarios en riesgo.
- Evaluar el cumplimiento simultáneo de la SB 243 con la California Consumer Privacy Act (CCPA) y, en su caso, con el RGPD europeo si la actividad tiene proyección internacional.
Comentarios
Publicar un comentario