Entradas

¿Puede un juez utilizar inteligencia artificial? La Instrucción del CGPJ y el nuevo principio de supervisión humana

Imagen
  ¿Puede un juez utilizar inteligencia artificial? La Instrucción del CGPJ y el nuevo principio de supervisión humana Santiago Carretero Sánchez Profesor Titular de Filosofía del Derecho. Universidad Rey Juan Carlos La irrupción de la inteligencia artificial generativa en la práctica jurídica ha dejado de ser una hipótesis de futuro para convertirse en una realidad cotidiana. Abogados, fiscales, profesores universitarios y funcionarios utilizan ya sistemas capaces de localizar jurisprudencia, resumir documentos, elaborar borradores o comparar argumentos jurídicos en cuestión de segundos. Resultaba inevitable que esta transformación alcanzara también a la Administración de Justicia. Sin embargo, cuando quien utiliza estas herramientas es un juez, la cuestión deja de ser exclusivamente tecnológica para convertirse en un problema constitucional. Precisamente por ello, la reciente Instrucción aprobada por el Consejo General del Poder Judicial (CGPJ) constituye uno de los documentos ...
Publicar un comentario
Leer más

¿Está cambiando Europa su modelo de regulación de la inteligencia artificial? La reforma del AI Act y el nuevo equilibrio entre innovación y protección de derechos

Imagen
  ¿Está cambiando Europa su modelo de regulación de la inteligencia artificial? La reforma del AI Act y el nuevo equilibrio entre innovación y protección de derechos  Santiago Carretero Gómez Profesor Titular de Universidad. Universidad Rey Juan Carlos La Unión Europea ha dado un nuevo paso en la evolución de su política regulatoria sobre inteligencia artificial al aprobar la reforma del Reglamento europeo de Inteligencia Artificial (AI Act). Lejos de tratarse de una mera modificación técnica, la revisión revela un cambio de enfoque: mantener la protección de los derechos fundamentales sin imponer cargas regulatorias que puedan dificultar la innovación y la competitividad europea. Este giro resulta especialmente relevante para los operadores jurídicos, pues demuestra que la regulación de la inteligencia artificial debe adaptarse continuamente a la velocidad del desarrollo tecnológico. Entre las principales novedades destaca la revisión del calendario de aplicación de determina...
Publicar un comentario
Leer más
Imagen
  La independencia judicial: una precisión necesaria a propósito del artículo de Jordi Nieva-Fenoll Santiago Carretero Profesor Titular de Universidad Universidad Rey Juan Carlos La publicación del artículo de Jordi Nieva-Fenoll, «Jueces independientes: ¿eso qué es?» , aparecido en EL PAÍS el día 1 de julio de 2026 , constituye una magnífica oportunidad para reflexionar sobre uno de los principios estructurales del Estado de Derecho: la independencia judicial. En un momento histórico en el que las resoluciones de los tribunales ocupan con frecuencia el centro del debate político y mediático, resulta especialmente pertinente recordar qué significa realmente que un juez sea independiente y cuáles son los límites constitucionales de esa independencia. El profesor Nieva-Fenoll parte de una idea tan sencilla como esencial: la independencia judicial no puede confundirse con la libertad absoluta del juez para decidir conforme a sus propias convicciones personales. Muy al contrario, l...
Publicar un comentario
Leer más

La tecnología penitenciaria más allá de la inteligencia artificial: el reto de proteger los derechos fundamentales en la nueva era digital

Imagen
  La tecnología penitenciaria más allá de la inteligencia artificial: el reto de proteger los derechos fundamentales en la nueva era digital Por Santiago Carretero Sánchez , Profesor Titular de Universidad. Universidad Rey Juan Carlos. Abogado del Ilustre Colegio de la Abogacía de Madrid La transformación digital de la Administración de Justicia ha dejado de ser una cuestión de futuro para convertirse en una realidad cotidiana. Sin embargo, mientras el debate jurídico y político continúa concentrándose casi exclusivamente en la inteligencia artificial, comienza a abrirse paso una reflexión mucho más profunda: ¿es realmente la IA el único riesgo para los derechos fundamentales o, por el contrario, cualquier tecnología capaz de influir en decisiones públicas debe someterse a idénticos estándares de control jurídico? Precisamente esta cuestión constituye el núcleo de una interesante reflexión publicada hoy en el ámbito jurídico, que invita a ampliar el foco del análisis hacia el conju...
Publicar un comentario
Leer más

La reforma de la Ley Europea de Inteligencia Artificial: la prohibición de los deepfakes sexuales y el refuerzo de la protección de la dignidad humana

Imagen
  La reforma de la Ley Europea de Inteligencia Artificial: la prohibición de los deepfakes sexuales y el refuerzo de la protección de la dignidad humana Por Santiago Carretero , Profesor Titular de la Universidad Rey Juan Carlos La regulación europea de la inteligencia artificial continúa evolucionando para responder a los riesgos que la rápida expansión de esta tecnología plantea para los derechos fundamentales. Cuando aún se está produciendo la aplicación progresiva del Reglamento (UE) 2024/1689, por el que se establecen normas armonizadas en materia de inteligencia artificial (AI Act) , las instituciones europeas han acordado introducir modificaciones destinadas a reforzar la protección frente a uno de los fenómenos más preocupantes surgidos en los últimos años: la creación y difusión de imágenes y vídeos sexualmente explícitos generados mediante inteligencia artificial sin el consentimiento de las personas afectadas. La decisión supone un paso relevante porque evidencia que ...
Publicar un comentario
Leer más

La transparencia algorítmica deja de ser una recomendación: el artículo 50 del AI Act entra en vigor el 2 de agosto de 2026

Imagen
  La transparencia algorítmica deja de ser una recomendación: el artículo 50 del AI Act entra en vigor el 2 de agosto de 2026 Santiago Carretero Sánchez Profesor Titular de la Universidad Rey Juan Carlos El próximo 2 de agosto de 2026 marca uno de los hitos más relevantes en la aplicación progresiva del Reglamento (UE) 2024/1689 sobre Inteligencia Artificial (AI Act) . Aunque buena parte del debate jurídico se ha centrado en los sistemas de alto riesgo, la entrada en vigor del artículo 50 , relativo a las obligaciones de transparencia , tendrá probablemente un impacto más inmediato y generalizado sobre empresas, administraciones públicas, universidades, despachos profesionales y cualquier organización que utilice herramientas de inteligencia artificial en su actividad cotidiana. La trascendencia de este precepto radica en que introduce un principio jurídico sencillo pero de enorme alcance: las personas tienen derecho a conocer cuándo están interactuando con una inteligencia ar...
Publicar un comentario
Leer más

Del Derecho de la regulación al Derecho del cumplimiento de la inteligencia artificial

Imagen
  Del Derecho de la regulación al Derecho del cumplimiento de la inteligencia artificial Santiago Carretero Sánchez Profesor Titular de la Universidad Rey Juan Carlos Durante los últimos años, el debate jurídico sobre la inteligencia artificial se ha centrado principalmente en la elaboración de normas capaces de responder a una tecnología caracterizada por su rápida evolución y por su creciente capacidad para intervenir en ámbitos especialmente sensibles de la actividad humana. Sin embargo, la actualidad jurídica de finales de junio de 2026 pone de manifiesto un cambio de enorme trascendencia: el problema principal ya no consiste en regular la inteligencia artificial, sino en garantizar el efectivo cumplimiento de un marco normativo que comienza a desplegar plenamente sus efectos sobre empresas, Administraciones Públicas y profesionales del Derecho. España se encuentra actualmente en una posición singular dentro del contexto europeo. A la aprobación del Reglamento (UE) 2024/168...
Publicar un comentario
Leer más

La autenticidad del conocimiento universitario en la era de la inteligencia artificial

Imagen
  La autenticidad del conocimiento universitario en la era de la inteligencia artificial Santiago Carretero Sánchez Profesor Titular de la Universidad Rey Juan Carlos La irrupción de la inteligencia artificial generativa en el ámbito universitario está modificando profundamente uno de los presupuestos sobre los que tradicionalmente se ha asentado la evaluación académica: la presunción de que el trabajo presentado por el estudiante constituye una manifestación auténtica de su propio conocimiento. La reciente denuncia realizada por un profesor de la Universidad de Brown, tras detectar el uso presuntamente generalizado de herramientas de inteligencia artificial durante una prueba de evaluación, pone de manifiesto que las universidades ya no afrontan únicamente un problema tecnológico, sino una cuestión de naturaleza jurídica, ética y pedagógica que afecta a la esencia misma de la institución universitaria. La utilización de sistemas capaces de elaborar respuestas complejas, redact...
Publicar un comentario
Leer más