IA y derechos fundamentales: transparencia en el empleo y sanción penal de los deepfakes Santiago Carretero Sánchez — Profesor Titular de Filosofía del Derecho, Universidad Rey Juan Carlos


 

IA y derechos fundamentales: transparencia en el empleo y sanción penal de los deepfakes

Santiago Carretero Sánchez — Profesor Titular de Filosofía del Derecho, Universidad Rey Juan Carlos
9 de agosto de 2025

Dos desarrollos legislativos recientes configuran respuestas normativas complementarias frente a los riesgos de la inteligencia artificial. Por un lado, la reforma en Illinois (HB 3773) regula el uso de IA en procesos de selección y gestión de personal, imponiendo obligaciones de transparencia y prohibiendo decisiones discriminatorias automatizadas. Por otro, la iniciativa en Nueva Gales del Sur (NSW) penaliza la creación y difusión de deepfakes sexualmente explícitos sin consentimiento. Ambos marcos sitúan la protección de la persona y el respeto a derechos fundamentales en el centro del ordenamiento jurídico frente a la IA.

IA en el empleo: marco normativo de Illinois (HB 3773)

La nueva ley modifica la normativa estatal de derechos humanos para:

  • Prohibir el uso de sistemas de IA que produzcan resultados discriminatorios en decisiones laborales sobre categorías protegidas (raza, género, edad, discapacidad, religión).
  • Exigir la notificación al trabajador o candidato cuando se emplee IA en la evaluación o selección.
  • Imponer responsabilidades a los empleadores para auditar, supervisar y mitigar sesgos algorítmicos.

Este enfoque preventivo y transparente eleva estándares en materia laboral, creando obligaciones de diligencia activa que pueden servir de modelo para otras jurisdicciones.

Deepfakes sexuales: proposición penal en NSW

La propuesta legislativa de Nueva Gales del Sur tipifica como delito la creación y difusión de material sexual falso generado mediante IA cuando se haga sin el consentimiento de la persona representada.

  • Incluye penas de prisión y sanciones económicas.
  • Alcanza tanto a la producción como a la distribución del contenido.
  • Prevé mecanismos acelerados para la retirada de contenido en plataformas digitales.

La iniciativa responde a daños reputacionales y psicológicos severos y coloca la protección de la autonomía y la intimidad en el centro del derecho penal digital.

Convergencia normativa y fundamento jurídico

Ambas iniciativas comparten una lógica protectora: la tecnología puede amplificar desigualdades (empleo) o causar violencias simbólicas (deepfakes). Desde la doctrina civil y penal, la intervención normativa se justifica por la necesidad de proteger la igualdad, la dignidad y la autonomía personal, valores que integran el núcleo de los derechos fundamentales.

Además, resaltan la función preventiva del Derecho: imponer obligaciones de transparencia y control antes de que el daño se materialice.

Implicaciones prácticas para operadores jurídicos

  • Los despachos y departamentos de RR.HH. deben incorporar auditorías algorítmicas y cláusulas de transparencia en sus procesos.
  • Los proveedores de algoritmos enfrentan mayor diligencia debida y la posibilidad de responsabilidad contractual y extracontractual.
  • En el ámbito penal, las unidades de investigación digital y plataformas deberán cooperar para la retirada rápida de material y la identificación de autores.

Recomendaciones docentes

  • Incluir en los programas de formación jurídica módulos sobre verificación técnica de algoritmos, responsabilidad algorítmica y mitigación de sesgos.
  • Promover prácticas clínicas y clínicas jurídicas que permitan a los estudiantes aplicar auditorías de IA y protocolos de actuación ante deepfakes.
  • Fomentar el diálogo interdisciplinar entre derecho, informática y ciencias sociales para diseñar respuestas integradas.
Fuentes:
  • Employment Law Worldview — "Illinois enacts new AI legislation..." (9 ago. 2025). employmentlawworldview.com
  • Daily Telegraph — "Minns government to criminalise creation of sexually explicit deepfakes" (9 ago. 2025). dailytelegraph.com.au
© Santiago Carretero Sánchez — blogdelaiaactual.blogspot.com

Comentarios

Publicar un comentario

Entradas populares de este blog

EL MODELO DE INTENTO DE CONCILIACIÓN QUE IMPONE LA LEY DE EFICIENCIA PROCESAL, PROPUESTA DEL ICAM

  MODELO PARA LA ACREDITACIÓN DEL INTENTO DE NEGOCIACIÓN Y TERMINACIÓN DEL PROCESO SIN ACUERDO Artículo 10º.1 de la Ley Orgánica 1/2025, de 2 de enero, de medidas en materia de eficiencia del Servicio Público de Justicia     Artículo 10. Acreditación del intento de negociación y terminación del proceso sin acuerdo.   1. A los efectos de acreditar que se ha intentado una actividad negociadora previa y cumplir el requisito de procedibilidad, dicha actividad negociadora o el intento de la misma deberá ser recogida documentalmente .   2. Si no hubiera intervenido una tercera persona neutral, la acreditación se cumplirá mediante cualquier documento firmado por ambas partes en el que se deje constancia de la identidad de las mismas y, en su caso, de las personas profesionales o expertas que hayan participado asesorándolas , la fecha, el objeto de la controversia, la fecha de la reunión o reuniones mantenidas, en su caso, y la declaración responsable d...
Leer más

ESQUEMA DETALLADO DE ESCRITO AJUSTADO AL MASC (PARA LETRADOS)

  🧷 ESQUEMA DETALLADO DE ESCRITO AJUSTADO AL MASC (PARA LETRADOS) Por Santiago Carretero Sánchez, Profesor Titular de Filosofía del Derecho, Abogado       1. Encabezamiento Órgano judicial : Ilmo./a. Sr./Sra. Letrado/a de la Administración de Justicia del Juzgado de [Primera Instancia] nº ___ de [localidad]. Parte compareciente : D./D.ª [Nombre del letrado/a del solicitante], en nombre y representación de [cliente], conforme a poder/apoderamiento (notarial o apud acta) que se acompaña/se encuentra ya incorporado. Procedimiento : Indicar si es escrito autónomo previo a demanda o subsanación de requerimiento judicial (art. 438.1 LEC). 2. Exposición de antecedentes y hechos relevantes Breve reseña del conflicto : Detallar la controversia con hechos jurídicamente relevantes. Indicación de la voluntad de acudir a MASC : Expresar que, antes de iniciar/reanudar el procedimiento jud...
Leer más

Resumen de la Ley Orgánica 1/2025: mi nuevo resumen para comprender lo que va a pasar ( si es posible)

  Autor: Santiago Carretero Sánchez, Profesor Titular de la URJC El 3 de abril de 2025 entró en vigor la Ley Orgánica 1/2025, que establece la obligatoriedad de intentar un Mecanismo Alternativo de Solución de Conflictos (MASC) antes de interponer una demanda en el ámbito civil o mercantil. El Consejo General de la Abogacía Española (CGAE) ha publicado una guía para facilitar la comprensión y aplicación de esta nueva exigencia legal. ¿Qué son los MASC? La Ley Orgánica 1/2025 define los MASC de forma abierta como cualquier actividad negociadora para resolver un conflicto. Entre los MASC reconocidos se incluyen: - Mediación - Conciliación (pública o privada) - Negociación directa entre las partes - Oferta vinculante confidencial - Opinión de persona experta independiente - Derecho Colaborativo o Abogacía Colaborativa Ámbitos de aplicación y exclusiones La obligación de intentar una solución extrajudicial se aplica a todos los procesos declarativos y especiales regula...
Leer más