De terapia automatizada a marcos globales: tres hitos que reordenan el Derecho de la IA

 

De terapia automatizada a marcos globales: tres hitos que reordenan el Derecho de la IA

Santiago Carretero Sánchez — Profesor Titular de Filosofía del Derecho, Universidad Rey Juan Carlos
blogdelaiaactual.blogspot.com · 14 de agosto de 2025

Esta entrada integra tres hitos recientes con fuerte impacto jurídico: (1) la prohibición de la terapia mediante IA en Illinois; (2) la revisión urgente de la ley estatal de IA de Colorado; y (3) la puesta en marcha por fases del AI Act de la Unión Europea. El objetivo es ofrecer una lectura docente y técnicamente precisa para orientar la práctica forense, el cumplimiento normativo y la política pública.

1 · Salud mental y seguridad del paciente

Illinois prohíbe la terapia con IA y fija un mínimo regulatorio

La Wellness and Oversight for Psychological Resources Act (ago‑2025) prohíbe el uso de IA para decisiones terapéuticas y comunicación clínica, permitiéndola solo en funciones administrativas. La ejecución será por denuncias ante la autoridad reguladora y sanciones de hasta 10.000 USD.

  • Clave jurídica: protección del consumidor y seguridad del paciente; obligaciones de diligencia profesional; publicidad y prácticas comerciales.
  • Para el despacho: revisión de contratos con proveedores de chatbots, cláusulas de uso limitado, y evaluación de riesgos de práctica clínica no autorizada.
2 · Gobernanza subnacional

Colorado reabre su ley pionera de IA antes de su aplicación

El Gobernador convoca una sesión especial para el 21 de agosto con la vista puesta en revisar el Colorado Artificial Intelligence Act (entrada en vigor prevista: 1 feb 2026). El debate enfrenta costes de cumplimiento vs. riesgo de vaciar la norma.

  • Clave jurídica: reglas sobre consequential decisions (empleo, crédito, vivienda), evaluaciones de impacto y obligaciones de documentación.
  • Para el despacho: mapear sistemas de alto riesgo en clientes corporativos y preparar registros de uso/justificación.
3 · Marco horizontal europeo

AI Act de la UE: calendario aplicado por fases

1 ago 2024: entra en vigor.

2 feb 2025: aplican prohibiciones y obligaciones de alfabetización en IA.

2 ago 2025: aplican reglas de gobernanza y obligaciones para GPAI.

2 ago 2026: aplicación general del Reglamento (con excepciones).

2 ago 2027: extensión para sistemas de alto riesgo embebidos en productos regulados.

Para el despacho: preparar DPIAs/FRIAs, políticas de GPAI, y contratos con cláusulas de datos, benchmarks y trazabilidad.

Lectura unificada: ¿qué cambia para el jurista?

  • Tipificación de usos prohibidos y publicidad engañosa (Illinois) frente a modelos de diligencia y documentación (Colorado) y enfoque por niveles de riesgo (UE).
  • Convergencia regulatoria: aunque los foros difieren, emergen estándares compartidos de evaluación de impacto, trazabilidad y supervisión.
  • Estrategia práctica: inventario de sistemas, matrices de riesgo y cláusulas contractuales de responsabilidad y auditoría.

Fuentes verificadas

© Santiago Carretero Sánchez. Profesor Titular de Filosofía del Derecho, Universidad Rey Juan Carlos. Publicado en blogdelaiaactual.blogspot.com. Si citas, enlaza a esta entrada.

Comentarios

Publicar un comentario

Entradas populares de este blog

EL MODELO DE INTENTO DE CONCILIACIÓN QUE IMPONE LA LEY DE EFICIENCIA PROCESAL, PROPUESTA DEL ICAM

  MODELO PARA LA ACREDITACIÓN DEL INTENTO DE NEGOCIACIÓN Y TERMINACIÓN DEL PROCESO SIN ACUERDO Artículo 10º.1 de la Ley Orgánica 1/2025, de 2 de enero, de medidas en materia de eficiencia del Servicio Público de Justicia     Artículo 10. Acreditación del intento de negociación y terminación del proceso sin acuerdo.   1. A los efectos de acreditar que se ha intentado una actividad negociadora previa y cumplir el requisito de procedibilidad, dicha actividad negociadora o el intento de la misma deberá ser recogida documentalmente .   2. Si no hubiera intervenido una tercera persona neutral, la acreditación se cumplirá mediante cualquier documento firmado por ambas partes en el que se deje constancia de la identidad de las mismas y, en su caso, de las personas profesionales o expertas que hayan participado asesorándolas , la fecha, el objeto de la controversia, la fecha de la reunión o reuniones mantenidas, en su caso, y la declaración responsable d...
Leer más

ESQUEMA DETALLADO DE ESCRITO AJUSTADO AL MASC (PARA LETRADOS)

  🧷 ESQUEMA DETALLADO DE ESCRITO AJUSTADO AL MASC (PARA LETRADOS) Por Santiago Carretero Sánchez, Profesor Titular de Filosofía del Derecho, Abogado       1. Encabezamiento Órgano judicial : Ilmo./a. Sr./Sra. Letrado/a de la Administración de Justicia del Juzgado de [Primera Instancia] nº ___ de [localidad]. Parte compareciente : D./D.ª [Nombre del letrado/a del solicitante], en nombre y representación de [cliente], conforme a poder/apoderamiento (notarial o apud acta) que se acompaña/se encuentra ya incorporado. Procedimiento : Indicar si es escrito autónomo previo a demanda o subsanación de requerimiento judicial (art. 438.1 LEC). 2. Exposición de antecedentes y hechos relevantes Breve reseña del conflicto : Detallar la controversia con hechos jurídicamente relevantes. Indicación de la voluntad de acudir a MASC : Expresar que, antes de iniciar/reanudar el procedimiento jud...
Leer más

Resumen de la Ley Orgánica 1/2025: mi nuevo resumen para comprender lo que va a pasar ( si es posible)

  Autor: Santiago Carretero Sánchez, Profesor Titular de la URJC El 3 de abril de 2025 entró en vigor la Ley Orgánica 1/2025, que establece la obligatoriedad de intentar un Mecanismo Alternativo de Solución de Conflictos (MASC) antes de interponer una demanda en el ámbito civil o mercantil. El Consejo General de la Abogacía Española (CGAE) ha publicado una guía para facilitar la comprensión y aplicación de esta nueva exigencia legal. ¿Qué son los MASC? La Ley Orgánica 1/2025 define los MASC de forma abierta como cualquier actividad negociadora para resolver un conflicto. Entre los MASC reconocidos se incluyen: - Mediación - Conciliación (pública o privada) - Negociación directa entre las partes - Oferta vinculante confidencial - Opinión de persona experta independiente - Derecho Colaborativo o Abogacía Colaborativa Ámbitos de aplicación y exclusiones La obligación de intentar una solución extrajudicial se aplica a todos los procesos declarativos y especiales regula...
Leer más