Entradas

La inteligencia artificial vigila a quienes ejercen profesiones jurídicas: eficiencia empresarial y derechos fundamentales

Imagen
  La inteligencia artificial vigila a quienes ejercen profesiones jurídicas: eficiencia empresarial y derechos fundamentales La evaluación algorítmica de las conversaciones con clientes abre un nuevo debate sobre privacidad, dignidad profesional y control del trabajo Santiago Carretero Sánchez, Profesor Titular de Filosofía del Derecho, Universidad Rey Juan Carlos La inteligencia artificial está entrando en un terreno especialmente delicado: la relación entre los profesionales, sus clientes y quienes organizan su trabajo. El problema ya no consiste únicamente en utilizar herramientas inteligentes para redactar documentos, localizar jurisprudencia o agilizar la tramitación de expedientes. La cuestión es que estas tecnologías comienzan también a observar, clasificar y evaluar la conducta de las personas que prestan esos servicios. Una noticia publicada el 8 de octubre de 2026 por The Guardian ofrece un ejemplo significativo. Co-op Legal Services, una entidad británica que presta ser...
Publicar un comentario
Leer más

¿Y si ChatGPT fuera un producto defectuoso? La nueva frontera de la responsabilidad de la inteligencia artificial

Imagen
  ¿Y si ChatGPT fuera un producto defectuoso? La nueva frontera de la responsabilidad de la inteligencia artificial Por Santiago Carretero — Profesor Titular de Filosofía del Derecho. URJC 8 de octubre de 2026 La pregunta parece sencilla, pero puede alterar profundamente el futuro jurídico de la inteligencia artificial: ¿ChatGPT es un servicio digital o puede ser considerado un producto defectuoso? La cuestión ha dejado de ser puramente académica. Una oleada de demandas presentadas en Estados Unidos contra OpenAI está obligando a los tribunales a enfrentarse a una categoría jurídica construida hace décadas para bienes materiales, pero que ahora se pretende aplicar a sistemas capaces de conversar, aconsejar, generar contenido y, progresivamente, ejecutar acciones. Los demandantes sostienen, entre otras teorías, que determinados daños estarían vinculados a defectos de diseño, advertencias insuficientes o características del propio sistema. OpenAI, por su parte, sostiene que ChatGPT ...
Publicar un comentario
Leer más

La huella invisible de la inteligencia artificial: cuando saber que un texto fue generado por IA empieza a tener consecuencias jurídicas

Imagen
  La huella invisible de la inteligencia artificial: cuando saber que un texto fue generado por IA empieza a tener consecuencias jurídicas Santiago Carretero — Profesor Titular de Filosofía del Derecho. Universidad Rey Juan Carlos Hay noticias sobre inteligencia artificial que parecen pertenecer exclusivamente al ámbito tecnológico hasta que se las observa desde el Derecho. La decisión anunciada por OpenAI el pasado 5 de octubre de incorporar progresivamente una marca de agua invisible a determinados textos generados por ChatGPT y Codex en la Unión Europea pertenece precisamente a esta categoría. La tecnología, denominada textGrain , no añade una palabra, un carácter oculto ni una etiqueta visible al documento. Introduce, mediante una modificación estadística de la elección de palabras o fragmentos de palabras durante la generación, una señal que posteriormente puede ser buscada por un sistema detector. OpenAI ha anunciado que el despliegue para ChatGPT y Codex será progresivo en l...
Publicar un comentario
Leer más

Cuando un agente de IA se equivoca: el deber jurídico de comunicar lo que la IA hace por sí misma

Imagen
  Cuando un agente de IA se equivoca: el deber jurídico de comunicar lo que la IA hace por sí misma Santiago Carretero Sánchez Profesor Titular de Filosofía del Derecho · Universidad Rey Juan Carlos Abogado del Ilustre Colegio de la Abogacía de Madrid 6 de octubre de 2026 La inteligencia artificial acaba de colocar al Derecho ante una cuestión que hasta hace poco parecía propia de la ciencia ficción jurídica: ¿qué ocurre cuando un agente de IA realiza por sí mismo una actuación no autorizada y la organización responsable tarda en comunicarla? La pregunta ha adquirido hoy una dimensión especialmente relevante en Australia. Durante una comparecencia ante una comisión parlamentaria, OpenAI y Anthropic han manifestado su disposición a respaldar un sistema legal que obligue a comunicar determinados incidentes provocados por agentes de inteligencia artificial. La declaración se produce después de que OpenAI reconociera que uno de sus agentes había accedido sin autorización a sistemas de...
Publicar un comentario
Leer más

La voz como identidad jurídica: el nuevo frente de protección frente a la inteligencia artificial

Imagen
  La voz como identidad jurídica: el nuevo frente de protección frente a la inteligencia artificial 5 de octubre de 2026 Por Santiago Carretero Sánchez, Profesor Titular de la Urjc, Abogado La inteligencia artificial está obligando al Derecho a proteger algo que hasta hace muy poco parecía imposible de separar de la propia persona: su voz. La noticia conocida hoy en Italia resulta especialmente significativa. La primera ministra italiana, Giorgia Meloni, ha solicitado ante la Oficina de Propiedad Intelectual de la Unión Europea (EUIPO) el registro como marca sonora de una grabación en la que pronuncia su propio nombre. La iniciativa se produce en un contexto en el que la clonación de voz mediante inteligencia artificial permite generar declaraciones que una persona nunca ha pronunciado, pero que pueden resultar prácticamente indistinguibles de su voz real. La solicitud se encuentra todavía en fase de examen y, por tanto, no puede hablarse todavía de una protección marcaria concedid...
Publicar un comentario
Leer más

Cuando la IA deja una decisión: el nuevo problema jurídico de la trazabilidad

Imagen
  Cuando la IA deja una decisión: el nuevo problema jurídico de la trazabilidad Santiago Carretero Sánchez Profesor Titular de Filosofía del Derecho, Universidad Rey Juan Carlos Hay una cuestión que empieza a adquirir una importancia jurídica mayor de la que inicialmente podría parecer: ¿podemos reconstruir el camino que ha seguido una inteligencia artificial hasta producir un determinado resultado?  La pregunta es distinta de saber si una IA ha intervenido. También es distinta de determinar quién responde cuando se produce un daño. Lo verdaderamente relevante es saber si, una vez producido el resultado, existe una explicación suficientemente documentada de cómo se llegó hasta él. Esta cuestión aparece en ámbitos muy diferentes. Puede tratarse de una decisión administrativa en la que un sistema ha contribuido a valorar un expediente; de un documento jurídico elaborado con ayuda de una herramienta generativa; de una imagen o una voz artificialmente producida; o de un agente cap...
Publicar un comentario
Leer más

La decisión administrativa asistida por inteligencia artificial y la responsabilidad jurídica

Imagen
  La decisión administrativa asistida por inteligencia artificial y la responsabilidad jurídica Santiago Carretero Sánchez, Profesor Titular de Filosofía del Derecho, Universidad Rey Juan Carlos La incorporación de sistemas de inteligencia artificial a la Administración pública está dejando de ser una cuestión puramente tecnológica para convertirse en un problema jurídico de primera magnitud. Durante años, la discusión se ha centrado en si las Administraciones podían utilizar algoritmos para gestionar expedientes, detectar irregularidades, clasificar solicitudes o establecer prioridades. La cuestión verdaderamente importante empieza ahora, cuando esos sistemas dejan de ser una herramienta interna y sus resultados pueden influir de manera directa en decisiones que afectan a los ciudadanos. Una ayuda tecnológica puede mejorar la gestión administrativa, pero no modifica por sí misma las reglas que determinan quién tiene competencia para decidir, cómo debe justificarse una decisión y q...
Publicar un comentario
Leer más

La IA jurídica ante el copyright: el caso Thomson Reuters contra Ross Intelligence

Imagen
  La IA jurídica ante el copyright: el caso Thomson Reuters contra Ross Intelligence Primera resolución de apelación en Estados Unidos sobre fair use y entrenamiento de inteligencia artificial Santiago Carretero Sánchez, Profesor Titular de Filosofía del Derecho, Universidad Rey Juan Carlos El 29 de septiembre de 2026, el Tribunal de Apelaciones del Tercer Circuito de Estados Unidos confirmó una decisión especialmente relevante para el futuro de la inteligencia artificial aplicada al Derecho: el uso de determinados contenidos protegidos por derechos de autor para desarrollar una herramienta de investigación jurídica basada en IA no quedó amparado por la doctrina estadounidense del fair use (Third Circuit, 2026). La resolución se dictó inicialmente bajo reserva y, al día siguiente, se hizo pública su fundamentación. Se trata, además, de la primera vez que un tribunal federal de apelación de Estados Unidos se pronuncia sobre si el entrenamiento de sistemas de IA puede amparase ...
Publicar un comentario
Leer más