Entradas

Directrices de la Comisión Europea sobre IA de Alto Riesgo en la Función Judicial

Imagen
  Directrices de la Comisión Europea sobre IA de Alto Riesgo en la Función Judicial Santiago Carretero Sánchez Profesor Titular de la Universidad Rey Juan Carlos El 11 de febrero de 2026, la Comisión Europea publicó un documento interpretativo destinado a clarificar la aplicación práctica del Reglamento europeo de Inteligencia Artificial (AI Act) en relación con los sistemas empleados en el ámbito de la función jurisdiccional. Aunque no tiene carácter normativo autónomo, su valor técnico es indudable para operadores jurídicos, administraciones judiciales y desarrolladores tecnológicos. El documento precisa cuándo un sistema de IA debe calificarse como “alto riesgo” en el contexto judicial, atendiendo especialmente a su potencial impacto sobre derechos fundamentales y garantías procesales. Se analizan herramientas de apoyo a decisiones judiciales, sistemas predictivos y modelos que influyen en valoraciones de riesgo procesal o penal. Las directrices refuerzan tres exigencias esencia...
Publicar un comentario
Leer más

La renuncia de una abogada en Arkansas por uso de IA en escritos judiciales: implicaciones deontológicas y responsabilidad profesional

Imagen
  La renuncia de una abogada en Arkansas por uso de IA en escritos judiciales: implicaciones deontológicas y responsabilidad profesional El 11 de febrero de 2026 se confirmó la renuncia de una abogada en Arkansas (Estados Unidos) tras la detección por parte de la Corte Suprema estatal de que un escrito judicial presentado ante ella contenía citaciones legales generadas por inteligencia artificial que resultaron inverificables o ficticias . La información proviene de múltiples medios de comunicación que han cubierto el caso, los cuales señalan que la propia abogada admitió haber empleado Microsoft Office Copilot para redactar partes de su presentación ante el tribunal. I. Hechos y contexto fáctico Según la documentación judicial y las noticias periodísticas, la Corte Suprema de Arkansas emitió una orden de show cause el 11 de diciembre de 2025 frente a la abogada Dana McClain para que explicara el uso de IA en la contestación presentada en un procedimiento relativo a la ley esta...
Publicar un comentario
Leer más

Jurisdicción universal, empresas transnacionales y límites del Derecho penal: a propósito del archivo de la querella contra Huawei

Imagen
  Jurisdicción universal, empresas transnacionales y límites del Derecho penal: a propósito del archivo de la querella contra Huawei La noticia publicada por  ABC  el 9 de febrero de 2026, relativa a la decisión de la Fiscalía de rechazar una querella contra Huawei por su presunta implicación en el genocidio del pueblo uigur, ofrece un excelente punto de partida para reflexionar —con rigor jurídico— sobre algunos de los  límites estructurales del Derecho penal contemporáneo  frente a las grandes violaciones de derechos humanos. 1. El caso como síntoma, no como excepción Las asociaciones querellantes imputaban a Huawei la colaboración tecnológica en un sistema de vigilancia masiva —basado en reconocimiento facial— presuntamente utilizado para la represión de la minoría uigur en China. Sin embargo, la Fiscalía concluye que  no concurren los presupuestos necesarios para activar la jurisdicción penal española , ni siquiera bajo el principio de jurisdicción univ...
Publicar un comentario
Leer más

IA en la jurisdicción: qué dice la Instrucción 2/2026 del CGPJ y cómo afecta al trabajo judicial ( mi resumen)

Imagen
   El Pleno del CGPJ ha aprobado la Instrucción 2/2026 (BOE 30/01/2026) que fija por primera vez criterios claros para que jueces y magistrados utilicen sistemas de inteligencia artificial (también generativa) como apoyo , sin sustituir su función decisoria, reforzando el control humano, la independencia judicial y las garantías de derechos fundamentales. 1) Finalidad y encaje normativo La Instrucción persigue establecer criterios, pautas y principios para el uso de IA por parte de la carrera judicial en el ejercicio de la actividad jurisdiccional , en coherencia con la LOPJ , las leyes procesales y la Política de uso de la IA en la Administración de Justicia aprobada por el CTEAJE (21/06/2024).  Se inserta en el marco del Reglamento (UE) 2024/1689 (Ley de IA) , que considera alto riesgo los sistemas utilizados por autoridades judiciales para investigar o interpretar los hechos y el Derecho (Anexo III, 8.a).  A nivel interno, la exposición de motivos remite al R...
Publicar un comentario
Leer más

Ley de Administración Digital e Inteligencia Artificial: eficiencia administrativa y garantías jurídicas

Imagen
  Ley de Administración Digital e Inteligencia Artificial: eficiencia administrativa y garantías jurídicas La reciente aprobación de la Ley de Administración Digital e Inteligencia Artificial representa un hito relevante en el proceso de transformación del sector público español. No se trata únicamente de una norma orientada a la modernización tecnológica de la Administración, sino de un texto con claras implicaciones jurídicas en materia de procedimiento administrativo, derechos de la ciudadanía y control del poder público cuando este se apoya en sistemas automatizados. La norma impulsa el uso de sistemas de inteligencia artificial para la gestión de trámites administrativos de baja complejidad, con el objetivo de reducir plazos y cargas burocráticas. Desde una perspectiva jurídico-administrativa, esta orientación obliga a revisar categorías clásicas como la motivación del acto administrativo, la imputación de la decisión y la responsabilidad cuando el resultado del procedimiento ...
Publicar un comentario
Leer más

Publicidad, imagen y personas fallecidas ante la IA generativa (Nueva York sigue legislando)

Imagen
  Publicidad, imagen y personas fallecidas ante la IA generativa Santiago Carretero Sánchez Profesor Titular de Filosofía del Derecho (Universidad Rey Juan Carlos) La novedad normativa: transparencia y protección frente a la IA El Estado de Nueva York ha aprobado recientemente una reforma legislativa que introduce dos obligaciones jurídicas de especial relevancia en el contexto de la inteligencia artificial generativa aplicada a la publicidad: la identificación expresa de intérpretes o figuras creadas mediante IA y el reforzamiento de los derechos de imagen de personas fallecidas, extendiendo su protección más allá de la muerte. La finalidad es doble: evitar el engaño del consumidor y frenar la explotación comercial no consentida de la identidad personal mediante técnicas de generación sintética. IA generativa y deber de información al consumidor La exigencia de revelar que un actor, modelo o personaje ha sido generado por IA introduce un estándar jurídico de transparencia algorítm...
Publicar un comentario
Leer más

Nueva York impulsa regulación sobre contenidos generados por IA en el periodismo

Imagen
  Nueva York impulsa regulación sobre contenidos generados por IA en el periodismo Santiago Carretero Sánchez, Profesor Titular de Filosofía del Derecho, Urjc El Estado de Nueva York avanza con fuerza en la regulación de la inteligencia artificial aplicada al sector de la información. El pasado mes se presentó el proyecto NY FAIR News Act (New York Fundamental Artificial Intelligence Requirements in News Act), que busca obligar a los medios de comunicación a etiquetar de forma clara y visible todo contenido noticioso que haya sido “sustancialmente compuesto, redactado o creado” mediante IA generativa. ¿Qué exige exactamente el proyecto? Etiquetado al consumidor : Toda noticia, artículo, imagen, audio o vídeo generado en gran medida por IA debe llevar, en la parte superior, una advertencia clara: “Este contenido fue creado con inteligencia artificial generativa”. Revisión humana obligatoria : Ningún material generado por IA podrá publicarse sin que un empleado con autoridad ed...
Publicar un comentario
Leer más

Litigiosidad por usos indebidos de la inteligencia artificial

Imagen
  Litigiosidad por usos indebidos de la inteligencia artificial Por Santiago Carretero Sánchez, Profesor titular de la Universidad Rey Juan Carlos La progresiva incorporación de sistemas de inteligencia artificial en la actividad económica, administrativa y profesional está generando un incremento sostenido de reclamaciones jurídicas derivadas de usos indebidos, opacos o insuficientemente conformes al ordenamiento. Este fenómeno no responde a una reacción coyuntural, sino a una consecuencia estructural del impacto de la IA en procesos decisorios que afectan directamente a derechos e intereses legítimos. En el ámbito europeo, buena parte de esta litigiosidad se articula actualmente a través del Reglamento General de Protección de Datos, dada su aplicabilidad directa y la amplitud de los derechos que reconoce frente a tratamientos automatizados, elaboración de perfiles y decisiones basadas exclusivamente en sistemas algorítmicos. En estos supuestos, la inteligencia artificial no c...
Publicar un comentario
Leer más