BLOG DE LAIAACTUAL (Santiago Carretero, Profesor Titular de Filosofía del Derecho)

  La prueba generada por IA ante el Tribunal Supremo: admisión, límites y criterios probatorios Santiago Carretero Sánchez — Profesor Titular, Universidad Rey Juan Carlos · 30 de noviembre de 2025 Resumen:  Se analiza la admisión a trámite ante la Sala Segunda del Tribunal Supremo de un recurso referido a la inadmisión, en instancias inferiores, de una prueba pericial generada por un sistema de inteligencia artificial (análisis forense de voz). El texto expone los hechos conocidos, la situación procesal —admisión a trámite sin resolución firme a la fecha—, las cuestiones jurídicas centrales (valoración de fiabilidad técnica, igualdad de armas, garantía del contradictorio, cadena de custodia y compatibilidad con el AI Act y la normativa de protección de datos), y propone criterios técnico-jurídicos para su valoración por la doctrina y los tribunales. 1. Hechos y estado procesal (datos disponibles) Según comunicados periodísticos y notas de prensa preliminares, el recurso se sig...

  Los peligros de usar la IA en juicios y demandas Fuente:  Cinco Días, sección Legal, 29 de noviembre de 2025. Autor: Jorge Velasco. Comentario del trabajo: Santiago Carretero Sánchez, Profesor Titular de la Universidad Rey Juan Carlos, Abogado Introducción La inteligencia artificial (IA) está transformando la práctica jurídica, especialmente en la preparación de escritos y demandas. Sin embargo, este avance tecnológico plantea riesgos significativos: los tribunales han detectado  590 casos de alucinaciones  en todo el mundo, es decir, referencias a leyes y sentencias inexistentes. Estados Unidos concentra la mayoría de los casos, aunque España también ha registrado incidentes. Riesgos Clave El uso indiscriminado de IA puede comprometer la  seguridad jurídica  y la responsabilidad profesional. Entre los principales riesgos se encuentran: Alucinaciones jurídicas:  creación de citas falsas de jurisprudencia y normativa. Responsabilidad del abogado: ...

  La herramienta de denuncia de irregularidades del AI Act: una palanca para el cumplimiento Por Santiago Carretero Sánchez, Profesor Titular de la Universidad Rey Juan Carlos Publicado: 29 de noviembre de 2025 · Categoría: Derecho y IA La Comisión Europea ha activado una herramienta formal para recibir denuncias relativas a presuntas infracciones del Reglamento de Inteligencia Artificial (AI Act). Diseñada para garantizar la confidencialidad del denunciante y facilitar la remisión de evidencias técnicas, la plataforma pretende mejorar la detección y respuesta ante despliegues de IA que puedan vulnerar derechos fundamentales, la salud pública o la seguridad jurídica. Función jurídico‑operativa La herramienta convierte obligaciones normativas en un procedimiento operativo: permite la remisión de indicios (logs, documentación de evaluaciones de riesgo, metadatos de modelos) a la Oficina de Inteligencia Artificial de la UE, facilitando la iniciación de investigaciones administrativas....

  IA, prensa y datos: remuneración, competencia y el límite del consentimiento Por Santiago Carretero Sánchez — Profesor Titular, Universidad Rey Juan Carlos · 28 de noviembre de 2025 Resumen.  El 28 de noviembre de 2025 se han producido dos desarrollos jurídicos relevantes que configuran una intersección crítica entre derecho de la competencia, derechos de autor y protección de datos: (i) la inclusión de un ángulo específico de inteligencia artificial en la investigación de la autoridad de competencia brasileña (CADE) sobre agregadores de noticias, con implicaciones sobre la retribución a medios y la posible sustitución de contenidos periodísticos por resúmenes automáticos; y (ii) la aplicación práctica del Digital Personal Data Protection Act (DPDP) en la India, cuya interpretación y reglas sobre consentimiento y minimización obligan a replantear el diseño de sistemas de IA que procesen datos personales. Ambos acontecimientos muestran cómo la técnica —los algoritmos de resum...

  Exposición de datos en OpenAI: consecuencias jurídicas y obligaciones Por Santiago Carretero Sánchez, Profesor Titular de la Universidad Rey Juan Carlos La noticia publicada el 27 de noviembre de 2025 sobre una exposición de datos vinculada a la API de OpenAI —revelada por medios tecnológicos que citan reportes técnicos y referencias indirectas— ha generado preocupación por su potencial impacto jurídico. Aunque la información debe considerarse preliminar hasta que exista confirmación oficial, el incidente sugiere que determinados identificadores y metadatos de clientes podrían haber quedado accesibles a terceros, lo que obliga a un análisis normativo preciso. En el marco europeo, el RGPD establece obligaciones claras en materia de seguridad, detección de incidentes y notificación: si la filtración implica riesgo para los derechos de las personas, el responsable debe comunicarlo a la autoridad de control en un plazo máximo de 72 horas. A nivel español, la LOPDGDD complementa...

  Estados vs. Congreso: la defensa estatal de la regulación de la IA Por      Santiago Carretero Sánchez, Profesor Titular de Filosofía del Derecho  Resumen breve.  Un coalición bipartidista de fiscales generales de 35 estados y el Distrito de Columbia ha instado al Congreso de los Estados Unidos a no impedir que los estados promulguen o mantengan sus propias normas sobre inteligencia artificial. La carta, liderada por la fiscal general de Nueva York, plantea que la ausencia de un marco federal completo no debe traducirse en la eliminación de la capacidad estatal para proteger derechos y seguridad pública, el problema no es menor y decisivo para el futuro de la IA a nivel mundial. Hechos esenciales El 25 de noviembre de 2025, la coalición de fiscales generales envió una carta a los líderes del Congreso reclamando expresamente que no se incluyan en proyectos de ley federales mecánicas de pre‑empción que bloqueen la capacidad normativa estatal para regular la...

  La revisión del RGPD en el paquete “Digital Omnibus”: análisis jurídico Autor: Santiago Carretero Sánchez, Profesor Titular de Filosofía del Derecho  Publicado: 23/11/2025 Resumen de la noticia El 19 de noviembre de 2025 la Comisión Europea presentó el denominado paquete “Digital Omnibus”, que incluye propuestas para aplazar ciertas obligaciones del Reglamento sobre Inteligencia Artificial (AI Act) y, de manera relevante para esta entrada, modificar aspectos prácticos del Reglamento General de Protección de Datos (RGPD) con el fin de facilitar el uso de datos —incluyendo datos personales para el entrenamiento de modelos de IA— y reducir las cargas administrativas asociadas al consentimiento y a los mecanismos de gestión de cookies. Análisis jurídico La propuesta, en sus líneas esenciales, plantea una reinterpretación operativa del equilibrio clásico entre innovación y protección de derechos. Jurídicamente cabe identificar, al menos, tres vectores de riesgo: (i) la erosión de...

  EL LABERINTO DE LA RESPONSABILIDAD CIVIL POR LA IA EN LA UE DOSSIER DOCENTE: El Laberinto de la Responsabilidad Civil por IA en la UE por Santiago Carretero Sánchez, Profesor Titular de Filosofía del Derecho, Universidad Rey Juan Carlos   1. Introducción y Contexto Normativo (10 Minutos) Objetivo:  Situar al alumno en el ecosistema regulatorio europeo ("Enfoque de Doble Pilar"). El " Puzzle " Legislativo Europeo Para entender la paralización, primero debemos entender qué se intentaba construir. La Unión Europea diseñó una estrategia basada en dos pilares complementarios: Regulación  Ex Ante  (Seguridad):  El  Reglamento de IA (AI  Act ) . Su función es prevenir riesgos, clasificar sistemas y establecer requisitos de entrada al mercado. (Ya aprobado). Regulación  Ex Post  (Compensación):  El régimen de responsabilidad civil. Si la prevención falla y hay un daño, ¿quién paga y cómo? Aquí es donde entra nuestra directiva en cuestión....

  Algoritmos, precios y conflicto competencial: la nueva frontera del Derecho en EE.UU. Por Santiago Carretero Sánchez, Profesor Titular de Filosofía del Derecho.Universidad Rey Juan Carlos La información publicada el 24 de noviembre de 2025 por Insurance Journal pone de manifiesto una transformación profunda del Derecho tecnológico norteamericano: varios estados están impulsando leyes que restringen o prohíben prácticas de fijación de precios algorítmicos basados en datos personales , mientras el Gobierno federal promueve una estrategia contraria orientada a limitar la autonomía regulatoria estatal en materia de inteligencia artificial . Esta fricción, lejos de ser anecdótica, presenta implicaciones jurídicas de enorme relevancia para el Derecho comparado y para el diseño de marcos normativos en economías avanzadas como la europea. 1. El núcleo del problema: precios dinámicos y discriminación algorítmica La fijación de precios mediante modelos de IA —que incorporan ...