Entradas

La prueba penal en la era de la inteligencia artificial: autenticidad, riesgo y garantías procesales

Imagen
  La prueba penal en la era de la inteligencia artificial: autenticidad, riesgo y garantías procesales Santiago Carretero Sánchez Profesor Titular de la Universidad Rey Juan Carlos La irrupción de sistemas de inteligencia artificial generativa ha alterado profundamente la estructura clásica de la prueba en el proceso penal. En particular, la proliferación de los denominados  deepfakes  y de contenidos sintéticos plantea un desafío directo a los criterios tradicionales de autenticidad, integridad y fiabilidad probatoria. La autenticidad de la prueba, entendida como correspondencia entre el documento aportado y la realidad que pretende reflejar, se ve comprometida en un contexto en el que la manipulación audiovisual resulta prácticamente indetectable a simple vista. Ello obliga a reforzar la cadena de custodia digital y a exigir estándares técnicos más elevados en la obtención y conservación de la prueba. Prueba pericial algorítmica La intervención de peritos especializados...

La consolidación del control administrativo de la inteligencia artificial en la Unión Europea

Imagen
  La consolidación del control administrativo de la inteligencia artificial en la Unión Europea Santiago Carretero Sánchez Profesor Titular de la  Universidad Rey Juan Carlos, Abogado 1. Planteamiento general La reciente actuación de la Comisión Europea orientada a articular mecanismos efectivos de supervisión del Reglamento de Inteligencia Artificial (AI Act) representa un paso decisivo hacia la construcción de un verdadero sistema europeo de control público de la inteligencia artificial. No se trata únicamente de aprobar normas, sino de garantizar su aplicación homogénea, técnica y jurídicamente coherente en el conjunto de los Estados miembros. 2. La arquitectura institucional de supervisión El modelo que se perfila descansa sobre una doble dimensión. Por un lado, la creación o adaptación de autoridades nacionales con competencias específicas en materia de inteligencia artificial, dotadas de capacidad técnica suficiente para evaluar sistemas complejos, especialmente aquellos...

Jürgen Habermas y la razón pública en las democracias contemporáneas Una breve aproximación a su legado filosófico

Imagen
  Jürgen Habermas y la razón pública en las democracias contemporáneas Una breve aproximación a su legado filosófico Santiago Carretero, Profesor Titular de Filosofía del Derecho, Universidad Rey Juan Carlos La reciente desaparición de Jürgen Habermas constituye un momento propicio para revisar el alcance intelectual de una de las figuras más influyentes de la filosofía social y jurídica del siglo XX y comienzos del XXI. Heredero crítico de la llamada Escuela de Frankfurt , Habermas desarrolló una obra extensa orientada a comprender las condiciones normativas que hacen posible una democracia deliberativa fundada en la racionalidad comunicativa. Estamos en mi opinión ante un clásico como Kelsen o Hart que traspasará el tiempo en su valoración. Entre sus trabajos más influyentes se encuentran The Theory of Communicative Action (1981), Between Facts and Norms (1992) y The Structural Transformation of the Public Sphere (1962). En ellos se articula una propuesta filosófica que si...

Deepfakes, democracia y responsabilidad jurídica en la era de la inteligencia artificial Reflexiones tras la muerte de Jürgen Habermas sobre la integridad del discurso público digital

Imagen
  Deepfakes, democracia y responsabilidad jurídica en la era de la inteligencia artificial Reflexiones tras la muerte de Jürgen Habermas sobre la integridad del discurso público digital Santiago Carretero Sánchez Profesor Titular de la Universidad Rey Juan Carlos La expansión de los sistemas de inteligencia artificial generativa ha introducido un nuevo problema jurídico de enorme relevancia: la creación de  deepfakes , es decir, contenidos audiovisuales manipulados mediante algoritmos capaces de reproducir con gran realismo la voz, la imagen o los gestos de una persona real. La evolución reciente de estos sistemas ha reducido notablemente las barreras técnicas para producir falsificaciones altamente convincentes, lo que ha generado preocupación en ámbitos como el derecho electoral, la protección de la reputación, la integridad informativa y la estabilidad institucional. Durante los últimos meses diversos analistas y juristas han advertido que los procesos electorales previstos...

La Nueva Propuesta de la Unión Europea sobre Responsabilidad Civil en Sistemas Autónomos de Inteligencia Artificial

Imagen
La Nueva Propuesta de la Unión Europea sobre Responsabilidad Civil en Sistemas Autónomos de Inteligencia Artificial Santiago Carretero Sánchez, Profesor Titular de Filosofía del Derecho, Universidad Rey Juan Carlos El pasado 12 de marzo de 2026, la Comisión Europea presentó un proyecto de reglamento que marca un avance decisivo en la regulación de la inteligencia artificial. Esta iniciativa obliga a los fabricantes de sistemas autónomos de IA a asumir la responsabilidad civil por cualquier daño causado a terceros. El objetivo principal es claro: armonizar las normas jurídicas entre los 27 Estados miembros y reforzar la seguridad jurídica en el despliegue de estas tecnologías. Para entender adecuadamente el alcance de esta propuesta, conviene aclarar primero qué se entiende por “sistemas autónomos de IA”. Se trata de tecnologías capaces de operar con un alto grado de independencia, sin necesidad de intervención humana continua. Ejemplos habituales incluyen vehículos autónomos, robot...

La nueva "Casa de Salomón": ¿Hemos cedido nuestra soberanía a los laboratorios de IA?

Imagen
  La nueva "Casa de Salomón": ¿Hemos cedido nuestra soberanía a los laboratorios de IA? Santiago Carretero Sánchez Profesor Titular de Filosofía del Derecho de la Universidad Rey Juan Carlos   La reflexión sobre si el "Código es Ley" ( Code is Law ), frase acuñada originalmente por Lawrence Lessig a finales de los 90, ha cobrado una dimensión casi profética en este 2026. Al reflexionar sobre  el análisis del artículo de Bits&Chips , nos adentramos en una de las crisis constitucionales más profundas de la era digital: el desplazamiento de la soberanía estatal hacia la soberanía algorítmica . En su obra póstuma La Nueva Atlántida (1627), Francis Bacon describió la "Casa de Salomón", una institución científica que operaba de forma autónoma al Estado. Sus miembros decidían qué descubrimientos revelar al público y cuáles mantener en secreto, incluso ante el Rey. En 2026, los grandes laboratorios de IA (OpenAI, Anthropic, Google, xAI) se han co...

El Parlamento Europeo impulsa nuevas medidas para proteger el copyright frente a la IA generativa

Imagen
  El Parlamento Europeo impulsa nuevas medidas para proteger el copyright frente a la IA generativa  Santiago Carretero, Profesor Titular URJC Una de las informaciones jurídicas más relevantes en materia de Derecho e inteligencia artificial en torno al 12 de marzo de 2026 es el debate institucional abierto en el Parlamento Europeo sobre la protección de los derechos de autor frente a los sistemas de IA generativa . En el marco de la sesión plenaria celebrada en Estrasburgo en marzo de 2026, la Comisión de Asuntos Jurídicos del Parlamento Europeo ha promovido un informe que plantea reforzar la protección del sector creativo frente al uso de obras protegidas en el entrenamiento de sistemas de inteligencia artificial . El informe propone tres líneas jurídicas principales: Transparencia en los datos de entrenamiento : los proveedores de IA deberían declarar de forma explícita qué obras protegidas han sido utilizadas para entrenar sus modelos. Remuneración equitativa para...

Autoría humana y creatividad algorítmica: el Tribunal Supremo de Estados Unidos confirma el límite jurídico del copyright frente a la inteligencia artificial

Imagen
  Autoría humana y creatividad algorítmica: el Tribunal Supremo de Estados Unidos confirma el límite jurídico del copyright frente a la inteligencia artificial La expansión de la inteligencia artificial generativa está provocando una profunda revisión de categorías jurídicas tradicionales, entre ellas el concepto de autoría en el Derecho de propiedad intelectual. En este contexto, el sistema judicial estadounidense ha reafirmado recientemente un principio clásico del copyright: la necesidad de intervención humana para que una obra pueda recibir protección jurídica. Según informa el diario El Capital Social (11 de marzo de 2026), el Tribunal Supremo de Estados Unidos ha decidido no admitir a trámite el recurso presentado por el científico informático Stephen Thaler en relación con el registro de una obra generada íntegramente por un sistema de inteligencia artificial. La consecuencia jurídica de esta decisión es clara: se mantienen firmes las resoluciones judiciales previas que ...