BLOG DE LAIAACTUAL (Santiago Carretero, Profesor Titular de Filosofía del Derecho)

Santiago Carretero Sánchez Profesor Titular de Filosofía del Derecho, ABogado b  LAa Ley de Eficiencia Procesal del Servicio Público de Justicia impone la mediación obligatoria en ciertos litigios como un requisito previo al acceso a los tribunales. Esta medida se presenta como una solución para reducir la litigiosidad y agilizar el sistema judicial. Sin embargo, más que una herramienta de eficiencia, supone un obstáculo que restringe el derecho fundamental a la tutela judicial efectiva y desvirtúa la esencia de la mediación, cuyo pilar fundamental es la voluntariedad. Intentaré mi posición negativa justificarla. La Mediación No Puede Ser Obligatoria La mediación es un mecanismo alternativo de resolución de conflictos basado en la autonomía de las partes y la cooperación mutua. Su éxito depende de la voluntad real de negociar y alcanzar acuerdos, algo que se pierde cuando se convierte en una imposición previa al proceso judicial. Obligar a las partes a participar en una mediación...

Santiago Carretero Sánchez  Profesor Titular de Filosofía del Derecho, Abogado El 27 de febrero de 2025, Atresmedia anunció una alianza estratégica con Google Cloud con el objetivo de desarrollar e implementar soluciones avanzadas de inteligencia artificial (IA) en la industria de los medios de comunicación. Esta colaboración busca optimizar procesos internos y explorar aplicaciones innovadoras en el sector audiovisual, consolidando a Atresmedia como líder en la transformación digital del ámbito mediático.  Ámbitos de Aplicación de la IA en Atresmedia Entre las iniciativas destacadas de esta colaboración se encuentran: Doblaje Automático Multilingüe : Desarrollo de una solución de doblaje automático que permitirá ofrecer contenidos en diversos idiomas, ampliando la accesibilidad y el alcance de la programación de Atresmedia.  Mejora de la Audiodescripción : Implementación de un sistema que optimiza la eficiencia y calidad de la audiodescripción, facilitando el acces...

Santiago Carretero Sánchez Profesor titular de Filosofía del Derecho, Abogado  La Santa Sede ha adoptado una postura proactiva respecto a la inteligencia artificial (IA), reconociendo su potencial para promover la paz y la seguridad, pero también advirtiendo sobre los riesgos éticos y morales que conlleva su uso indebido. En particular, el Papa Francisco ha enfatizado la necesidad de una regulación internacional que garantice un desarrollo y aplicación ética de la IA. En un mensaje dirigido al Foro Económico Mundial en Davos en enero de 2025, el Pontífice destacó que la IA podría agravar la actual "crisis de la verdad" al producir resultados casi indistinguibles de los generados por humanos, subrayando la importancia de una supervisión rigurosa por parte de gobiernos y empresas para abordar las complejidades de esta tecnología.  Además, la Santa Sede ha manifestado su preocupación por el uso de sistemas de armas autónomas. En agosto de 2024, durante una intervención en las N...

Santiago Carretero Sánchez Profesor Titular de Filosofía del Derecho, Abogado del Colegio de Madrid La Agencia Española de Protección de Datos (AEPD) inicia una nueva etapa con el nombramiento de Lorenzo Cotino Hueso como su presidente, tras casi seis años de bloqueo institucional en la renovación de su cúpula directiva. Cotino sustituye a Mar España, quien ha liderado la agencia hasta su reciente jubilación. El nombramiento ha sido formalizado mediante el Real Decreto 142/2025, publicado en el Boletín Oficial del Estado, que también designa a Francisco Pérez-Bes como adjunto a la presidencia. La designación ha atravesado dificultades, incluida la renuncia de Antonio Troncoso, inicialmente propuesto para el cargo de adjunto. Se ha optado, a mi juicio, por un especialista conocedor de los temas de la protección de datos y máxime en esta etapa de la Inteligencia Artificial. Perfil del nuevo presidente de la AEPD Lorenzo Cotino Hueso es una figura destacada en el ámbito del Derecho Consti...

Santiago Carretero Sánchez Profesor Titular de Filosofía del Derecho, Abogado del Colegio de Madrid  La Autoritat Catalana de Protecció de Dades (APDCat) ha desarrollado una metodología pionera para evaluar el impacto de los sistemas de inteligencia artificial (IA) en los derechos fundamentales. Esta iniciativa busca garantizar que el diseño y la implementación de soluciones de IA sean respetuosos con los derechos humanos, evitando discriminaciones y sesgos en los procesos automatizados de toma de decisiones. Marco Normativo y Contexto La metodología de la APDCat se alinea con las disposiciones establecidas en el Reglamento de Inteligencia Artificial (RIA) de la Unión Europea. Este reglamento clasifica las aplicaciones de IA en diferentes categorías de riesgo: Riesgo inaceptable : Aplicaciones prohibidas que incluyen sistemas de IA que manipulan el comportamiento humano o utilizan identificación biométrica remota en tiempo real en espacios públicos. Alto riesgo : Sistemas d...

 El uso de herramientas de inteligencia artificial (IA) como ChatGPT en el ámbito jurídico ha suscitado preocupaciones significativas debido a incidentes en los que se han incorporado sentencias inexistentes o leyes de jurisdicciones incorrectas en documentos legales. Además, se han reportado vulneraciones de la protección de datos y dilemas éticos asociados con su implementación. Estos casos subrayan la necesidad imperiosa de un uso responsable y supervisado de la IA en el sector legal. Casos Destacados de Uso Incorrecto de ChatGPT en el Ámbito Legal Estados Unidos: Inclusión de Precedentes Falsos En 2023, dos abogados en Nueva York fueron multados con $5,000 por presentar un escrito judicial que contenía precedentes legales inexistentes generados por ChatGPT. El juez Kevin Castel determinó que los abogados "ignoraron conscientemente" las señales que indicaban la falsedad de los casos citados y ofrecieron declaraciones "engañosas" al tribunal, actuando de mala...

Santiago Carretero Sánchez  Profesor Titular de Filosofía del Derecho, Abogado del Colegio de Madrid La Agencia Española de Supervisión de la Inteligencia Artificial (AESIA) se prepara para asumir un papel central en la regulación de la inteligencia artificial (IA) en España. A partir del 2 de agosto de 2025, la AESIA contará con plena capacidad sancionadora para supervisar y, en su caso, sancionar prácticas indebidas en el uso de la IA, en consonancia con el Reglamento Europeo de Inteligencia Artificial.  Ignasi Belda, director de la AESIA, ha destacado que las sanciones por el uso indebido de la IA podrán alcanzar hasta 35 millones de euros. No obstante, ha enfatizado que la agencia priorizará la emisión de advertencias antes de imponer multas, buscando que las sanciones actúen como elementos disuasorios más que recaudatorios.  La AESIA supervisará ocho ámbitos específicos para prevenir que la IA cause perjuicios a las personas. Entre las prácticas prohibidas se incl...

Santiago Carretero Sánchez, Profesor Titular de Filosofía del Derecho, Abogado El uso de la inteligencia artificial en funciones adjudicativas: ¿mecanismo objetivo o juicio subjetivo? El avance de la inteligencia artificial (IA) ha generado un intenso debate en el ámbito jurídico, particularmente en lo que respecta a su uso en funciones adjudicativas. La cuestión central es si la adjudicación judicial puede ser reducida a un proceso mecánico de aplicación normativa o si, por el contrario, implica una dimensión de interpretación y juicio subjetivo que la IA no puede replicar. IA y adjudicación judicial: automatización de la justicia En los últimos años, diversos sistemas de IA han sido implementados para asistir en la resolución de conflictos legales, desde el análisis de jurisprudencia hasta la predicción de sentencias. Ejemplos como COMPAS en EE.UU., utilizado para evaluar el riesgo de reincidencia en procesos penales, han suscitado preocupaciones sobre la objetividad y transparencia ...

  Apple y la IA: La estrategia de diversificación con ChatGPT y Gemini Apple ha consolidado su apuesta por la inteligencia artificial con el desarrollo de Apple Intelligence , una plataforma que inicialmente incorporó ChatGPT de OpenAI, pero que ahora podría ampliar su ecosistema con la integración de Gemini , el modelo de IA de Google. La última versión beta de iOS 18.4 ha revelado indicios de esta posible integración, lo que sugiere que Apple ofrecerá a sus usuarios la posibilidad de elegir entre estos dos gigantes de la IA. Esta estrategia no es nueva en la relación entre Apple y Google, ya que ambas empresas han colaborado en el pasado, como ocurre con la preconfiguración de Google Search en el navegador Safari. La decisión de incorporar Gemini responde a la necesidad de garantizar herramientas de IA consolidadas y reconocidas, evitando riesgos de adopción con modelos menos populares. Si esta integración se materializa, los usuarios de dispositivos Apple podrán beneficiars...

Santiago Carretero Sánchez Profesor Titular de Filosofía del Derecho, Abogado  El entorno normativo europeo en materia digital ha evolucionado rápidamente en los últimos años. Desde la aprobación del Reglamento General de Protección de Datos (RGPD) en 2018 , la UE ha continuado expandiendo su regulación con nuevas normativas como la Ley de Servicios Digitales (DSA), la Ley de Mercados Digitales (DMA), el Reglamento de Inteligencia Artificial (RIA) y la Directiva NIS2 . Estas regulaciones buscan garantizar la seguridad jurídica, la protección de datos y la ciberseguridad , pero también imponen un alto coste de cumplimiento para empresas y asesores jurídicos. Según Joaquín Muñoz, socio de Bird & Bird España, “las grandes corporaciones están obligadas a cumplir con todas estas normas, lo que representa una carga regulatoria significativa. Aunque el objetivo es proteger derechos y reducir riesgos, la implementación es un desafío para muchas empresas, especialmente las de tamaño ...

La Unión Europea (UE) ha intensificado sus esfuerzos para posicionarse como líder global en el ámbito de la inteligencia artificial (IA). En febrero de 2025, la Comisión Europea lanzó la iniciativa InvestAI, con el objetivo de movilizar 200.000 millones de euros en inversiones destinadas al desarrollo y la implementación de tecnologías de IA en el continente. Este ambicioso plan combina fondos públicos y privados, incluyendo un aporte específico de 20.000 millones de euros para la creación de gigafactorías de IA. Estas instalaciones son esenciales para el entrenamiento de modelos avanzados en entornos colaborativos y abiertos, fortaleciendo la infraestructura tecnológica europea.  Paralelamente, la UE ha establecido un marco regulatorio integral mediante la Ley de Inteligencia Artificial, que entró en vigor el 2 de febrero de 2025. Esta legislación clasifica los sistemas de IA según su nivel de riesgo y establece directrices claras para su desarrollo y uso, con el fin de proteger...

  Santiago Carretero Sánchez Profesor Titular de Filosofía del Derecho, Abogado La inteligencia artificial (IA) ha transformado diversos sectores, incluido el jurídico. Herramientas como ChatGPT y Copilot ofrecen grandes ventajas, desde la automatización de tareas hasta la mejora en la precisión de la investigación jurídica. Sin embargo, su uso indebido puede acarrear serios problemas éticos y legales. En esta entrada, exploraremos estos peligros y propondremos medidas para un uso responsable. Aspectos Éticos del Uso de IA en el Derecho Transparencia y Explicabilidad : Los algoritmos de IA deben ser transparentes y explicables. Es crucial que los profesionales del derecho comprendan cómo se toman las decisiones algorítmicas para garantizar que estas sean justas y equitativas. Sesgo Algorítmico : Uno de los mayores riesgos es el sesgo inherente en los datos utilizados para entrenar los modelos de IA. Este sesgo puede llevar a decisiones discriminatorias, afectando la equidad del sis...

  Algoritmos y democracia: el reto de la equidad digital Santiago Carretero, Profesor Titular de Filosofía del Derecho de la UJRC y Abogado La influencia de los algoritmos en la política es una realidad innegable. Un artículo reciente publicado en El País , titulado "Está demostrado: las redes favorecen a los partidos radicales", pone sobre la mesa un problema fundamental para nuestras democracias: la amplificación de discursos extremistas a través de las redes sociales, pero también hemos de matizar lo que se entiende por extremismo que no siempre queda claro. El estudio citado en el artículo revela que plataformas como TikTok tienden a favorecer contenidos de partidos políticos radicales en sus recomendaciones. Un experimento de 2024 creó un perfil ficticio de un adolescente apolítico, y en menos de una semana, la plataforma priorizó contenido de Vox y Pedro Sánchez, mientras ignoraba a otros partidos. Este fenómeno no es exclusivo de España; investigaciones en Alemania, Es...

  Principales avances Google y su equipo de científicos virtuales La compañía ha desarrollado un conjunto de seis agentes de IA que trabajan en sinergia, formulando hipótesis, diseñando experimentos y validando resultados. Su sistema denominado AI co-scientist ha identificado potenciales tratamientos para enfermedades como la leucemia y la fibrosis hepática. En un ejemplo concreto, la IA logró en 48 horas el mismo hallazgo sobre resistencia bacteriana que investigadores del Imperial College habían desarrollado en una década. Nvidia y Evo 2: descifrando la vida Nvidia ha lanzado Evo 2, un sistema que comprende y analiza el código genético de todas las formas de vida conocidas. Evo 2 es capaz de predecir mutaciones cancerígenas y diseñar secuencias genéticas sintéticas con una precisión sin precedentes. Ambos avances se sustentan en el modelo de ciencia abierta, permitiendo que investigadores de todo el mundo accedan a estas herramientas y aceleren sus descubrimientos. Relevancia y ...

Santiago Carretero Sánchez  Profesor Titular de Filosofía del Derecho, Abogado  El desarrollo de la inteligencia artificial (IA) autónoma ha generado un intenso debate sobre sus implicaciones jurídicas y éticas. En un reciente artículo de Computer Hoy , los expertos Max Tegmark (MIT) y Yoshua Bengio (Universidad de Montreal) alertan sobre los peligros de que estos sistemas superen la inteligencia humana sin una regulación adecuada. La posibilidad de que una IA tome decisiones sin supervisión efectiva plantea riesgos tanto en términos de seguridad como de garantía de derechos fundamentales. Desde una perspectiva jurídico-penal, la atribución de responsabilidad en caso de acciones ilícitas de una IA autónoma es un desafío inédito. La ausencia de control humano directo dificulta la determinación de la responsabilidad penal o civil, lo que obliga a repensar el marco normativo vigente. Una solución podría ser la imposición de obligaciones estrictas a los desarrolladores y operado...

 Santiago Carretero Sánchez Profesor Titular de Filosofía del Derecho  Abogado del Ilustre Colegio de Madrid La reciente publicación del Plan de Acción de Oportunidades de la Inteligencia Artificial en el Reino Unido por el primer ministro Keir Starmer ha reavivado el debate sobre el papel del Estado en el desarrollo y regulación de la IA. Este plan prevé una inversión multimillonaria en la capacidad del país en IA, con la expectativa de fomentar su uso en el sector público y mejorar la productividad a largo plazo. Sin embargo, como argumentan Mariana Mazzucato y Tommaso Valletti en su artículo publicado en  El País , este enfoque plantea importantes desafíos en términos de gobernanza, equidad y regulación de monopolios tecnológicos, resumen de lo que se tiene que hacer. La IA y el riesgo de concentración de poder Uno de los principales problemas que enfrentan los gobiernos es la tendencia de la IA a reforzar dinámicas de monopolio. Empresas como Amazon, Google o Microsof...

Santiago Carretero Sánchez Profesor Titular de Filosofía del Derecho, Abogado del Colegio de Madrid Resumen del caso El 11 de febrero de 2025, un tribunal de EE.UU. dictó sentencia en contra de Ross Intelligence, una empresa que desarrollaba inteligencia artificial jurídica, por haber utilizado sin autorización resúmenes y notas de casos extraídos de la base de datos Westlaw, propiedad de Thomson Reuters. La decisión judicial reconoció que estos resúmenes tienen originalidad suficiente para estar protegidos por derechos de autor y que su uso sin permiso constituye una infracción. Ross Intelligence argumentó que su utilización de estos materiales constituía un uso legítimo ( fair use ), dado que su IA no reproducía directamente el contenido, sino que lo empleaba para entrenar su modelo. Sin embargo, el tribunal rechazó esta defensa, subrayando que la reproducción y transformación de materiales protegidos, incluso con fines tecnológicos, no exime del cumplimiento de la normativa de propi...

Santiago Carretero Sánchez Profesor Titular de Filosofía del Derecho, Abogado La digitalización de la Administración de Justicia en España es un proceso que ha sido impulsado por diversas reformas normativas y estrategias gubernamentales. No obstante, persisten notables deficiencias en su implementación, lo que genera dudas sobre la efectividad real de las medidas adoptadas. En un reciente encuentro organizado por Economist & Jurist Group , las magistradas Amparo Salom Lucas y María Isabel Llambés analizaron los retos tecnológicos que enfrenta el sistema judicial español lo resumo con mi toque personal al respecto porque normas nos sobran. Marco Normativo de la Digitalización Judicial El marco regulador de la transformación digital en la Justicia está integrado por diversas normas de rango nacional y europeo, entre las que destacan: Ley 18/2011, de 5 de julio, reguladora del uso de las tecnologías de la información y la comunicación en la Administración de Justicia , que establece ...

Santiago Carretero Sánchez Profesor Titular de Filosofía del Derecho  Abogado El uso de herramientas de inteligencia artificial como ChatGPT ha revolucionado la forma en que trabajamos en diversos sectores, y el mundo jurídico no es una excepción. Sin embargo, como señala el reciente artículo de Nuria Morcillo en EL PAÍS titulado "Sentencias falsas, leyes extranjeras y filtrado de datos: los riesgos de usar ChatGPT se cuelan en los despachos de abogados" (18 de febrero de 2025), esta tecnología también ha generado retos significativos, sobre todo cuando se utiliza de manera indebida. A continuación, exploramos los puntos clave mencionados y ampliamos el debate con referencias adicionales para entender los riesgos y beneficios de estas herramientas en el ámbito legal. Casos recientes de uso indebido Sentencias inexistentes : Uno de los casos más alarmantes mencionados es el de un abogado que presentó un documento legal basado en sentencias citadas por ChatGPT que resultaron se...

Santiago Carretero Sánchez ^Profesor Titular de Filosofía del Derecho Abogado En el último episodio del pódcast LegalQué , Alejandro Pérez, Head of Knowledge Management & LegalTech en Chiomenti, reflexionó sobre cómo la tecnología ha transformado el sector jurídico en los últimos 20 años. Pérez destacó que mientras los países anglosajones tienen una visión ambiciosa y global de las soluciones LegalTech, en Europa predominan las soluciones nacionales y la falta de integración entre herramientas. Esta diferencia representa una oportunidad para los juristas y despachos en España: aprovechar la tecnología de manera estratégica, incluso comenzando por herramientas gratuitas, para ser más competitivos en un entorno globalizado. Quiero resumir los puntos más importantes de esta entrevista. Según Pérez, las tecnologías llevan más de dos décadas sirviendo como una excusa fantástica para "repensar las cosas" en el ámbito jurídico. En su análisis del panorama italiano, identifica do...

 Santiago Carretero Sánchez  Profesor Titular de Filosofía del Derecho  Abogado del Ilustre Colegio de Madrid Nuevo Plan de Lucha contra Estafas Telefónicas: Análisis de la Orden TDF/149/2025 El Gobierno español ha aprobado la Orden Ministerial TDF/149/2025, de 12 de febrero, que establece un nuevo marco normativo para combatir las estafas telefónicas. Esta normativa obliga a las compañías telefónicas a bloquear llamadas y SMS sospechosos de estafas, bajo multas de hasta dos millones de euros. A continuación, se presenta un análisis académico y jurídico de esta importante medida. Introducción La confianza de los consumidores en la seguridad de las comunicaciones electrónicas es fundamental en la era digital. Sin embargo, el uso de llamadas y mensajes de texto se ha convertido en un instrumento común para la comisión de estafas de suplantación de identidad. Estas estafas buscan engañar al consumidor para que proporcione información personal y financiera confidencial, facil...

Santiago Carretero Sánchez Profesor Titular de Filosofía del Derecho  Abogado del Ilustre Colegio de Abogados de Madrid  El uso de herramientas de inteligencia artificial, como ChatGPT, está transformando el ejercicio de la abogacía, agilizando tareas como la redacción de contratos y la generación de informes jurídicos. Sin embargo, su implementación no está exenta de riesgos éticos y profesionales. Las implicaciones legales y deontológicas de estas tecnologías, así como las precauciones necesarias para garantizar un uso responsable en los despachos de abogados se tendrán que abordar en el debate y sobre todo, normativamente. Riesgos principales: confiabilidad, sesgos y privacidad La falta de regulación específica sobre el uso de inteligencia artificial en el ámbito jurídico genera un vacío que puede poner en riesgo los derechos fundamentales de los clientes. Un caso reciente en España ejemplifica este problema: un abogado fue sancionado por utilizar ChatGPT para redactar de...