Entradas

El uso de datos accesibles públicamente para el entrenamiento de sistemas de inteligencia artificial: el límite del RGPD

Imagen
  Por Santiago Carretero Sánchez, Profesor Titular de la Urjc, Abogado del Colegio de Madrid El uso de datos accesibles públicamente para el entrenamiento de sistemas de inteligencia artificial constituye, a fecha 4 de mayo de 2026, uno de los núcleos problemáticos más relevantes en la intersección entre tecnología y Derecho, especialmente a la luz de la intensificación del criterio interpretativo sostenido por diversas autoridades europeas de protección de datos. La cuestión central no reside tanto en la accesibilidad de la información como en la legitimidad de su reutilización para fines distintos de aquellos que justificaron su publicación inicial, lo que obliga a una reconsideración profunda de las categorías clásicas del tratamiento de datos personales. En este contexto, se impone una lectura estricta del Reglamento (UE) 2016/679, en particular de sus principios estructurales, que operan como límites materiales frente a la expansión tecnológica. De este modo, el carácter públi...
Publicar un comentario
Leer más

Responsabilidad civil por sistemas de IA y automatización decisional: reconstrucción jurídica a partir del modelo alemán y del Derecho europeo

Imagen
  Responsabilidad civil por sistemas de IA y automatización decisional: reconstrucción jurídica a partir del modelo alemán y del Derecho europeo Santiago Carretero Sánchez Profesor Titular de Filosofía del Derecho · Universidad Rey Juan Carlos La progresiva incorporación de sistemas de inteligencia artificial en la toma de decisiones con efectos jurídicos —particularmente en ámbitos como la contratación, el asesoramiento automatizado o la evaluación de riesgos— está tensionando las categorías clásicas de imputación de responsabilidad civil. Aunque no existe, a la fecha de 3 de mayo de 2026, una resolución judicial alemana específica y plenamente identificable que aborde de forma directa la responsabilidad derivada de sistemas de IA generativa en el asesoramiento jurídico, sí puede afirmarse, con base verificable, que el ordenamiento alemán y el Derecho de la Unión Europea han construido ya un marco normativo y jurisprudencial que permite anticipar con bastante precisión la solución...
Publicar un comentario
Leer más

Licencias administrativas para modelos de IA en Japón: hacia un control público ex ante intensivo

Imagen
  Licencias administrativas para modelos de IA en Japón: hacia un control público ex ante intensivo Santiago Carretero Sánchez, Profesor Titular de la Universidad Rey Juan Carlos El 30 de abril de 2026 se ha conocido la apertura por parte del gobierno japonés de un proceso de consulta pública orientado a la implantación de un sistema de licencias administrativas obligatorias para el desarrollo y despliegue de modelos fundacionales de inteligencia artificial. La propuesta introduce un cambio cualitativo en la forma de concebir la regulación tecnológica, desplazando el eje desde la supervisión ex post hacia un modelo de control preventivo reforzado. Desde una perspectiva jurídico-pública, la medida supone la configuración de un auténtico régimen de autorización administrativa previa para sistemas de alta capacidad computacional, lo que aproxima esta tecnología a sectores tradicionalmente regulados como la energía o las telecomunicaciones. El elemento central radica en la exigencia de...
Publicar un comentario
Leer más

D e nuevo sobre la responsabilidad jurídica en la era de la inteligencia artificial: de la culpa al control del riesgo

Imagen
  La responsabilidad jurídica en la era de la inteligencia artificial: de la culpa al control del riesgo  Santiago Carretero Sánchez Profesor Titular de Filosofía del Derecho Universidad Rey Juan Carlos La progresiva integración de sistemas de inteligencia artificial en los procesos económicos y decisionales está provocando una transformación estructural del sistema clásico de responsabilidad civil. El modelo tradicional, construido sobre la imputación subjetiva de la culpa o sobre esquemas relativamente estables de responsabilidad objetiva, se muestra insuficiente ante tecnologías caracterizadas por su autonomía funcional, opacidad algorítmica y complejidad causal. Tal y como pone de relieve el reciente análisis publicado en Economist & Jurist el 29 de abril de 2026, la idea de que “la inteligencia artificial se equivoca” carece de relevancia jurídica autónoma: la IA no es sujeto de derecho, carece de personalidad jurídica y no puede ser titular de obligaciones ni re...
Publicar un comentario
Leer más

Inteligencia artificial y responsabilidad patrimonial de la Administración: hacia una reconstrucción del daño público automatizado

Imagen
  Inteligencia artificial y responsabilidad patrimonial de la Administración: hacia una reconstrucción del daño público automatizado Autor: Santiago  Carretero Sánchez, Profesor Titular de la Universidad Rey Juan Carlos La progresiva incorporación de sistemas de inteligencia artificial en la actividad administrativa plantea un problema jurídico de primera magnitud: la adecuación del régimen clásico de responsabilidad patrimonial a decisiones total o parcialmente automatizadas. No se trata de una cuestión meramente tecnológica, sino de una transformación estructural del concepto de funcionamiento del servicio público y, en consecuencia, del sistema de imputación del daño. 1. Marco normativo y punto de partida El artículo 106.2 de la Constitución Española establece el derecho de los particulares a ser indemnizados por toda lesión que sufran en sus bienes y derechos como consecuencia del funcionamiento de los servicios públicos. Este mandato se desarrolla en la Ley 40/2015, cuyo ...
Publicar un comentario
Leer más

Inteligencia artificial y derecho de autor: la propuesta chilena de uso de obras sin autorización

Imagen
  Inteligencia artificial y derecho de autor: la propuesta chilena de uso de obras sin autorización  Santiago Carretero Sánchez, profesor  titular de Universidad, Abogado La iniciativa normativa impulsada en Chile en abril de 2026 introduce un elemento de notable trascendencia en el debate jurídico contemporáneo sobre inteligencia artificial y propiedad intelectual: la eventual habilitación del uso de obras protegidas para el entrenamiento de sistemas de inteligencia artificial sin necesidad de autorización del titular de derechos, siempre que dicho uso no implique una explotación directa de la obra. Este planteamiento supone una expansión significativa de los límites tradicionales del derecho de autor en sistemas de tradición continental y sitúa el foco en la redefinición del concepto mismo de utilización jurídicamente relevante. Desde una perspectiva técnico-jurídica, el núcleo del problema reside en la calificación del entrenamiento algorítmico. La cuestión no es mera...
Publicar un comentario
Leer más

Hacia un Convenio Internacional Vinculante sobre Inteligencia Artificial y Derechos Fundamentales

Imagen
  Hacia un Convenio Internacional Vinculante sobre Inteligencia Artificial y Derechos Fundamentales  Santiago Carretero Sánchez Profesor Titular de Filosofía del Derecho, Universidad Rey Juan Carlos Planteamiento actual del debate internacional En fecha 26 de abril de 2026 se ha reactivado en el seno del Consejo de Europa el debate relativo a la aprobación de un convenio internacional jurídicamente vinculante sobre inteligencia artificial, orientado a garantizar la protección efectiva de los derechos fundamentales frente al uso de sistemas automatizados. Este instrumento normativo pretende superar los modelos de soft law que han caracterizado hasta ahora la gobernanza global de la inteligencia artificial, avanzando hacia un marco de obligaciones jurídicas exigibles para los Estados parte. El contexto en el que surge esta iniciativa es el de una creciente preocupación institucional por los efectos de la inteligencia artificial en ámbitos especialmente sensibles como la privacid...
Publicar un comentario
Leer más

La pericial algorítmica inversa: reconstrucción probatoria frente a la opacidad de la inteligencia artificial

Imagen
  La pericial algorítmica inversa: reconstrucción probatoria frente a la opacidad de la inteligencia artificial Santiago Carretero Sánchez Profesor Titular de Filosofía del Derecho (URJC) La progresiva incorporación de sistemas de inteligencia artificial en la toma de decisiones con relevancia jurídica ha evidenciado un problema estructural: la dificultad de acceso al funcionamiento interno de los algoritmos. Frente a esta opacidad —frecuentemente derivada de secretos empresariales o de la propia complejidad técnica— comienza a consolidarse una figura probatoria de singular interés: la denominada pericial algorítmica inversa. Este tipo de pericia no pretende analizar directamente el modelo, sino inferir su lógica de funcionamiento a partir de los resultados producidos. Se trata, en términos metodológicos, de una reconstrucción inductiva basada en patrones de salida, lo que permite detectar sesgos, inconsistencias o resultados discriminatorios sin necesidad de acceso al código fuent...
Publicar un comentario
Leer más