Entradas

Litigiosidad por usos indebidos de la inteligencia artificial

Imagen
  Litigiosidad por usos indebidos de la inteligencia artificial Por Santiago Carretero Sánchez, Profesor titular de la Universidad Rey Juan Carlos La progresiva incorporación de sistemas de inteligencia artificial en la actividad económica, administrativa y profesional está generando un incremento sostenido de reclamaciones jurídicas derivadas de usos indebidos, opacos o insuficientemente conformes al ordenamiento. Este fenómeno no responde a una reacción coyuntural, sino a una consecuencia estructural del impacto de la IA en procesos decisorios que afectan directamente a derechos e intereses legítimos. En el ámbito europeo, buena parte de esta litigiosidad se articula actualmente a través del Reglamento General de Protección de Datos, dada su aplicabilidad directa y la amplitud de los derechos que reconoce frente a tratamientos automatizados, elaboración de perfiles y decisiones basadas exclusivamente en sistemas algorítmicos. En estos supuestos, la inteligencia artificial no c...
Publicar un comentario
Leer más

Hacia una gobernanza científica global de la inteligencia artificial: el nuevo panel independiente de la ONU

Imagen
  Hacia una gobernanza científica global de la inteligencia artificial: el nuevo panel independiente de la ONU La Organización de las Naciones Unidas ha dado un paso cualitativamente relevante en la arquitectura internacional de la gobernanza de la inteligencia artificial al anunciar, el 5 de febrero de 2026 , la creación de su primer Panel Científico Independiente sobre Inteligencia Artificial . No se trata de un órgano político ni de un foro meramente consultivo, sino de una instancia de carácter técnico-científico llamada a desempeñar un papel estructural en la definición de estándares, riesgos y principios comunes aplicables al desarrollo y uso de sistemas de IA a escala global. Desde una perspectiva jurídica, la iniciativa responde a una constatación ampliamente compartida: el desfase entre la velocidad de la innovación tecnológica y la capacidad normativa de los Estados . La IA, especialmente en sus modalidades generativas y de uso general, está produciendo efectos transversa...
Publicar un comentario
Leer más

La irrupción de la inteligencia artificial jurídica especializada en Europa

Imagen
  La irrupción de la inteligencia artificial jurídica especializada en Europa Santiago Carretero Sánchez  Universidad rey Juan Carlos 1. Alcance jurídico de la innovación tecnológica El reciente lanzamiento de sistemas de inteligencia artificial generativa específicamente orientados al trabajo jurídico —como el anunciado por Anthropic— marca un punto de inflexión en la relación entre tecnología y Derecho. No se trata ya de herramientas de apoyo genérico, sino de soluciones diseñadas para operar en contextos normativos complejos, con capacidad para analizar contratos, identificar riesgos legales y asistir en tareas de cumplimiento normativo. La reacción inmediata de los mercados europeos, con descensos en empresas tradicionales de software y datos jurídicos, refleja la profundidad del cambio: la IA comienza a competir directamente con estructuras históricas de intermediación del conocimiento jurídico. 2. Ejercicio profesional, responsabilidad y supervisión humana Desde la óptic...
Publicar un comentario
Leer más

La supervisión del uso de la inteligencia artificial en el sector financiero: el papel emergente del Banco de España

Imagen
  La supervisión del uso de la inteligencia artificial en el sector financiero: el papel emergente del Banco de España Por  Santiago  profesor titular  de Universidad, Urjc El progresivo despliegue de sistemas de inteligencia artificial en el sector financiero ha dejado de ser una cuestión meramente tecnológica para convertirse en un asunto central de regulación, supervisión y responsabilidad jurídica. En este contexto se enmarca la reciente actuación del Banco de España, que el pasado 3 de febrero solicitó información detallada a las entidades financieras sobre el uso actual y previsto de sistemas de IA en sus procesos internos y en la prestación de servicios. La iniciativa no puede interpretarse como un gesto aislado, sino como un primer ejercicio efectivo de supervisión ex ante en un ámbito especialmente sensible: aquel en el que decisiones automatizadas pueden afectar de forma directa a derechos fundamentales, a la estabilidad del sistema financiero y a la confia...
Publicar un comentario
Leer más

Puede la inteligencia artificial ser sujeto de Derecho?

Imagen
  Puede la inteligencia artificial ser sujeto de Derecho? Personalidad jurídica y sistemas inteligentes Santiago Carretero Sánchez, Profesor Titular de Filosofía del Derecho, URJC El debate sobre la eventual atribución de personalidad jurídica a sistemas de inteligencia artificial ha dejado de ser una cuestión teórica para convertirse en un problema jurídico de creciente relevancia práctica. Las reflexiones formuladas por Yuval Noah Harari en el Foro Económico Mundial de Davos 2026 han contribuido a reactivar esta discusión, al plantear si determinados sistemas de IA, por su capacidad de actuación autónoma y de generación de efectos jurídicos relevantes, podrían llegar a ser reconocidos como sujetos de Derecho. Conviene precisar, desde el inicio, que el planteamiento no se funda en la idea de conciencia, sensibilidad o dignidad moral de las máquinas, sino en su progresiva capacidad para intervenir de facto en el tráfico jurídico, económico y social. La cuestión central es, por ...
Publicar un comentario
Leer más

El Reglamento Europeo de Inteligencia Artificial como Derecho preventivo del riesgo algorítmico (Guía AESIA)

Imagen
  El Reglamento Europeo de Inteligencia Artificial como Derecho preventivo del riesgo algorítmico El Reglamento (UE) 2024/1689, de 13 de junio de 2024, representa el primer marco normativo integral destinado a regular la inteligencia artificial en la Unión Europea. Su rasgo esencial consiste en que no disciplina la tecnología en sí misma considerada, sino los usos jurídicamente relevantes de los sistemas de IA, adoptando un enfoque funcional que permite su adaptación a la evolución técnica futura. La norma responde así a la necesidad de conciliar innovación tecnológica, protección de los derechos fundamentales y seguridad jurídica en el mercado interior. El Reglamento se construye sobre un modelo de regulación basado en el riesgo, sustituyendo la lógica uniforme por una gradación normativa en función del potencial lesivo de cada sistema. En el nivel más alto se sitúan los usos prohibidos de la inteligencia artificial, aquellos que por su propia naturaleza resultan incompatibles con...
Publicar un comentario
Leer más

La notificación de incidentes graves en sistemas de IA de alto riesgo: análisis jurídico del artículo 73 del AI Act

Imagen
  La notificación de incidentes graves en sistemas de IA de alto riesgo: análisis jurídico del artículo 73 del AI Act Santiago Carretero, Profesor Titular URJC La guía sobre notificación y gestión de incidentes graves se integra en el marco del Reglamento (UE) 2024/1689 de Inteligencia Artificial, particularmente en su artículo 73, relativo al control posterior a la comercialización de los sistemas de IA de alto riesgo. Su finalidad es proporcionar un modelo interpretativo y operativo que permita a los proveedores y responsables del despliegue cumplir de manera efectiva las obligaciones jurídicas derivadas del Reglamento, anticipando la futura aprobación de normas armonizadas y directrices de la Comisión Europea. No tiene carácter vinculante, pero constituye un instrumento técnico de aplicación práctica del Derecho europeo de la inteligencia artificial. El concepto de “incidente grave” se define de manera material en el artículo 3.49 del Reglamento, comprendiendo aquellos acontecim...
Publicar un comentario
Leer más

La inteligencia artificial en la Administración de Justicia: análisis jurídico de la nueva Instrucción del CGPJ sobre su uso por jueces y magistrados

Imagen
  La inteligencia artificial en la Administración de Justicia: análisis jurídico de la nueva Instrucción del CGPJ sobre su uso por jueces y magistrados Autor: Santiago Carretero Sánchez Titular   de la   Universidad Rey Juan Carlos 1. Introducción El Pleno del Consejo General del Poder Judicial ha aprobado una Instrucción que regula el uso de la inteligencia artificial en la Administración de Justicia, estableciendo un marco normativo vinculante para jueces y magistrados en relación con las herramientas de IA que pueden emplear en su actividad profesional. La noticia, difundida por Confilegal , pone de relieve la preocupación institucional por garantizar que la incorporación de sistemas de IA generativa no comprometa principios estructurales del Estado de Derecho como la independencia judicial, la responsabilidad personal del juez y la tutela de los derechos fundamentales. Esta Instrucción se inserta en un contexto europeo y nacional marcado por el Regla...
Publicar un comentario
Leer más