La Constitución frente al algoritmo: el nacimiento del Derecho español de la Inteligencia Artificial

La Constitución frente al algoritmo: el nacimiento del Derecho español de la Inteligencia Artificial

Por Santiago Carretero Sánchez
Profesor Titular  de la Universidad Rey Juan Carlos, Abogado

La aprobación por el Gobierno del primer proyecto de ley español específicamente dedicado a la inteligencia artificial marca un momento histórico para nuestro ordenamiento jurídico. No se trata simplemente de una nueva norma tecnológica ni de una adaptación técnica al Reglamento Europeo de Inteligencia Artificial. Estamos ante el inicio de una transformación mucho más profunda: la construcción de un auténtico Derecho de la Inteligencia Artificial destinado a garantizar que el extraordinario desarrollo de los sistemas algorítmicos permanezca sometido a los principios que inspiran el Estado social y democrático de Derecho.

Durante décadas, el Derecho ha regulado tecnologías que afectaban a sectores concretos de la actividad económica o administrativa. Sin embargo, la inteligencia artificial presenta una característica singular que la diferencia de todas las innovaciones anteriores: su capacidad para intervenir simultáneamente en prácticamente todos los ámbitos de la vida humana. Desde la contratación laboral hasta la concesión de ayudas públicas, desde la actividad judicial hasta la asistencia sanitaria, desde la educación hasta la seguridad ciudadana, la inteligencia artificial está llamada a participar en decisiones que afectan directamente a derechos, libertades y expectativas legítimas de millones de personas.

La aprobación de esta ley refleja una preocupación jurídica que se ha convertido en una constante dentro de las democracias occidentales. El problema ya no consiste únicamente en determinar qué puede hacer la tecnología, sino en establecer qué límites deben imponerse a esa capacidad tecnológica para evitar que el ser humano termine subordinado a decisiones opacas, automatizadas o insuficientemente controladas. El legislador europeo y español parten de una premisa esencial: el progreso tecnológico resulta deseable, pero únicamente cuando se encuentra al servicio de la persona y no cuando convierte a la persona en objeto de tratamiento, clasificación o vigilancia permanente.

La nueva regulación adquiere especial relevancia por la identificación de determinados usos prohibidos de la inteligencia artificial. Entre ellos destacan diversas formas de reconocimiento biométrico, los sistemas de categorización de personas basados en características físicas o conductuales, determinadas aplicaciones de reconocimiento emocional en el ámbito laboral y algunos supuestos de utilización de contenidos sintéticos o deepfakes especialmente lesivos para la dignidad humana. Estas prohibiciones poseen una importancia que trasciende el ámbito tecnológico. En realidad, constituyen una declaración de principios sobre los límites éticos y jurídicos que una sociedad democrática considera inaceptables. El mensaje del legislador es claro: existen espacios de libertad personal que no pueden quedar sometidos a una observación algorítmica constante, por sofisticada que sea la tecnología empleada.

Desde una perspectiva constitucional, la cuestión resulta especialmente significativa. Muchos de los riesgos asociados a la inteligencia artificial afectan directamente a derechos fundamentales reconocidos en la Constitución Española, como la dignidad de la persona, el derecho a la intimidad, la protección de datos personales, la igualdad ante la ley, la libertad ideológica o la tutela judicial efectiva. La irrupción de sistemas capaces de elaborar perfiles, anticipar comportamientos o influir en decisiones públicas obliga a reinterpretar categorías jurídicas tradicionales a la luz de una realidad tecnológica inédita. La protección de los derechos fundamentales deja así de proyectarse únicamente sobre actuaciones humanas para extenderse también a procesos automatizados capaces de generar consecuencias jurídicas relevantes.

La ley incorpora además una estructura institucional destinada a garantizar que las obligaciones establecidas no permanezcan en el plano meramente declarativo. La Agencia Española de Supervisión de la Inteligencia Artificial se configura como una pieza central dentro del sistema de control diseñado por el legislador. La experiencia acumulada durante las últimas décadas demuestra que las normas, por sí solas, no bastan para garantizar una protección efectiva de los derechos. La complejidad de los sistemas algorítmicos exige organismos especializados capaces de comprender técnicamente las herramientas que deben supervisar y de actuar con independencia frente a posibles abusos o incumplimientos.

Especial interés presenta también la incidencia de la inteligencia artificial en la actuación de las Administraciones Públicas. El desarrollo de sistemas automatizados destinados a clasificar expedientes, detectar riesgos, asignar recursos o asistir en la adopción de decisiones administrativas plantea algunos de los debates más relevantes del Derecho Administrativo contemporáneo. La eficiencia tecnológica no puede justificar una disminución de las garantías jurídicas que asisten a los ciudadanos. La motivación de las decisiones, la transparencia de los procedimientos, la posibilidad de impugnación y la atribución de responsabilidades continúan siendo exigencias irrenunciables incluso cuando intervienen sistemas de inteligencia artificial. El algoritmo puede colaborar en la decisión; la responsabilidad jurídica sigue correspondiendo a los poderes públicos.

La trascendencia de esta nueva regulación también se proyecta sobre la formación de los juristas. La inteligencia artificial deja de constituir una materia reservada a especialistas tecnológicos para convertirse en una cuestión transversal que afecta a prácticamente todas las ramas del Derecho. El constitucionalista deberá analizar nuevos riesgos para las libertades públicas; el administrativista tendrá que estudiar la automatización de la actividad administrativa; el laboralista se enfrentará a sistemas de evaluación y selección automatizada; el penalista deberá valorar nuevas formas de criminalidad tecnológica; y el civilista deberá replantear cuestiones relacionadas con la responsabilidad y la protección de la personalidad. Nos encontramos ante un cambio de paradigma que obliga a redefinir parte de la enseñanza jurídica tradicional.

La primera Ley española de Inteligencia Artificial simboliza, en definitiva, el esfuerzo del ordenamiento jurídico por preservar la centralidad de la persona en una sociedad cada vez más condicionada por decisiones automatizadas. Su verdadera importancia no radica únicamente en regular una tecnología emergente, sino en afirmar que los principios fundamentales del constitucionalismo democrático continúan siendo plenamente válidos en la era digital. La historia del Derecho ha sido, en gran medida, la historia de la limitación del poder. En el siglo XXI, una parte creciente de ese poder adopta forma algorítmica. Por ello, la función esencial del Derecho seguirá siendo la misma: garantizar que toda innovación tecnológica permanezca sometida a la dignidad humana, a la responsabilidad jurídica y al control democrático.

El Mundo. (2026, 27 de mayo). El Gobierno aprueba la primera ley española de inteligencia artificial con sanciones para los usos prohibidos por la normativa europea. El Mundo. https://www.elmundo.es

Gobierno de España. Consejo de Ministros. (2026, 27 de mayo). El Consejo de Ministros aprueba el proyecto de ley para el buen uso y la gobernanza de la inteligencia artificial. Presidencia del Gobierno de España. https://www.lamoncloa.gob.es

Ministerio para la Transformación Digital y de la Función Pública. (2026, 28 de mayo). Proyecto de Ley para la gobernanza de la inteligencia artificial y adaptación del ordenamiento español al Reglamento (UE) 2024/1689 sobre inteligencia artificial. Gobierno de España. https://digital.gob.es