Directrices «vivas» de la Comisión Europea sobre el uso responsable de la IA generativa en la investigación: ideas centrales

Santiago Carretero Sánchez, Profesor Titular de Filosofía del Derecho, Universidad Rey Juan Carlos

1. Naturaleza y alcance de las directrices

La Comisión Europea, a través de su Dirección General de Investigación e Innovación y en el marco del Foro del Espacio Europeo de Investigación (ERA Forum), ha publicado en octubre de 2026 la cuarta versión de Living guidelines on the responsible use of generative AI in research. La actualización, difundida institucionalmente el 16 de octubre, constituye la revisión más amplia desde la publicación inicial de marzo de 2024.

El documento tiene naturaleza de soft law: no es jurídicamente vinculante y declara expresamente que complementa, pero no sustituye, la legislación aplicable ni los requisitos institucionales, disciplinares o establecidos por los organismos financiadores. Cuando existan obligaciones jurídicas o reglas específicas aplicables, estas prevalecen. Las directrices tampoco pretenden establecer estándares autónomos para la investigación asistida por inteligencia artificial, sino trasladar principios ya reconocidos a un entorno científico en el que la IA generativa y los sistemas agénticos adquieren una presencia creciente.

Su fundamentación se encuentra en los principios de integridad de la investigación y en los marcos europeos sobre una inteligencia artificial fiable. Entre sus referencias destacan el Código Europeo de Conducta para la Integridad en la Investigación de ALLEA, en su revisión de 2023, y las orientaciones éticas europeas sobre inteligencia artificial fiable. El documento se dirige a tres destinatarios principales: investigadores, organizaciones de investigación y organismos de financiación. La guía no debe leerse, por tanto, como un nuevo código jurídico autónomo, sino como un instrumento de orientación para concretar buenas prácticas en la investigación científica.

2. Principios rectores: la continuidad de la responsabilidad humana

La Comisión sintetiza su planteamiento en cuatro ideas fundamentales que reproduzco:

Valorar si la inteligencia artificial es la herramienta adecuada para la tarea concreta.
Mantener la responsabilidad en los investigadores y en las instituciones a las que pertenecen.
Considerar irrenunciable la protección de la confidencialidad.
Garantizar la transparencia y la divulgación del uso de IA cuando resulte sustancial.

La tesis de fondo es especialmente significativa: la incorporación de inteligencia artificial no modifica los principios de la investigación responsable. Cambian las herramientas, las posibilidades de producción y los riesgos, pero no desaparecen las exigencias de integridad científica, rigor metodológico y responsabilidad. No dejemos de pensar en esta idea central.

Desde una perspectiva filosófico-jurídica, cabe interpretar esta continuidad como una manifestación del humanismo tecnológico: la innovación debe integrarse en la actividad científica sin desplazar la capacidad de juicio, la responsabilidad ni la consideración de las personas. Se trata de una interpretación doctrinal de las directrices, no de una categoría que estas impongan expresamente.

3. Recomendaciones para los investigadores

3.1. Responsabilidad final sobre los resultados

Los sistemas de inteligencia artificial no son autores, coautores ni titulares de los resultados de la investigación. La autoría presupone agencia y responsabilidad, que corresponden a los investigadores.

Quien utiliza estas herramientas debe verificar sus resultados, prestando atención a los sesgos, las alucinaciones, las inexactitudes y la posible incorporación de contenidos ajenos sin reconocimiento adecuado. La utilización de agentes de IA para ejecutar tareas complejas tampoco equivale a una delegación de la responsabilidad. Deben establecerse puntos de control durante el proceso, especialmente cuando se adopten decisiones metodológicas relevantes, es trabajar de otra manera, pero salvaguardar nuestro pensamiento crítico.

3.2. Transparencia y divulgación del uso de IA

La guía distingue entre el uso sustancial y el apoyo meramente editorial. Existe uso sustancial cuando la IA interviene, por ejemplo, como método o fuente, en la revisión de literatura, la identificación de lagunas científicas, la interpretación de datos o la formulación de hipótesis.

Por el contrario, las tareas puramente técnicas o menores —como la corrección gramatical, el pulido lingüístico o el formato— generalmente no requieren divulgación, salvo que las reglas aplicables establezcan otra cosa. En caso de duda, la Comisión recomienda declarar el uso.

La transparencia no se agota en identificar la herramienta. También debe ofrecerse información significativa sobre la supervisión y los procedimientos de verificación empleados, de manera que el lector pueda valorar la fiabilidad del trabajo.

Dado el carácter estocástico o no determinista de estos sistemas, el investigador debe valorar si conviene conservar o compartir los prompts, los registros de uso, las versiones del modelo y los parámetros. La decisión depende de su relevancia para comprender, reproducir o auditar la investigación y sobre todo, ante quién.

3.3. Privacidad, confidencialidad y propiedad intelectual

La incorporación de información inédita, confidencial o sensible a sistemas externos plantea riesgos que deben evaluarse previamente. La guía recomienda no introducir trabajos inéditos o protegidos en herramientas externas sin garantías suficientes de que los datos no se reutilizarán, por ejemplo, para entrenar modelos. Estamos ante los principios generales.

El tratamiento de datos personales de terceros exige una base jurídica adecuada, una finalidad definida y el cumplimiento de la normativa aplicable. El consentimiento puede constituir una de esas bases, pero no es la única posible. La Comisión remite a las reglas europeas de protección de datos y a las orientaciones del Supervisor Europeo de Protección de Datos.

También debe atenderse a la seguridad de la investigación, a la titularidad y gestión de las herramientas utilizadas, a la ubicación de los datos y a las condiciones técnicas de protección de la información. Cuando un agente tenga acceso a información sensible, el investigador debe establecer límites que eviten vulneraciones de la confidencialidad y seguir respondiendo por su actuación.

3.4. Cumplimiento normativo y prevención del plagio

La responsabilidad del investigador comprende el respeto a la legislación nacional, europea e internacional que resulte aplicable. Los resultados generados pueden incorporar datos personales, reproducir contenidos ajenos o presentar referencias incorrectas. Por ello, deben comprobarse las citas y las fuentes originales, reconocerse las aportaciones de terceros y evitarse prácticas que puedan constituir plagio, falsificación o manipulación de datos. El empleo de agentes no exime de responsabilidad jurídica a quien los utiliza, es reiteración de este principio de supervisión humana.

3.5. Formación continua y sostenibilidad

La Comisión recomienda mantener una formación permanente sobre las posibilidades, limitaciones y riesgos de las herramientas generativas. Incluye también la necesidad de reducir su impacto ambiental, valorando si la IA es realmente necesaria para la tarea y seleccionando herramientas y procedimientos eficientes.

3.6. Evaluación científica y revisión por pares

La evaluación de propuestas y publicaciones requiere especial cautela. Los evaluadores deben respetar las reglas de cada institución, revista u organismo financiador, proteger la confidencialidad de los materiales inéditos y mantener bajo control humano las valoraciones sustantivas.

La IA puede utilizarse para determinadas tareas auxiliares cuando esté permitido, pero no debe sustituir el juicio sobre la calidad y el mérito científicos. La guía excluye expresamente la delegación de ese juicio y señala que la IA no debe emplearse para redactar informes de evaluación ni para determinar el mérito científico.

Entre las limitaciones que deben vigilarse destacan cuatro:

Sesgos de los datos de entrenamiento, que pueden reproducir o amplificar distorsiones existentes.
Sesgo de complacencia (sycophancy), por el que el sistema tiende a ajustarse a las preferencias que percibe en el usuario.
Citas inventadas y resúmenes incorrectos, incluso cuando la publicación citada existe y sus datos bibliográficos son correctos.
Opacidad o falta de interpretabilidad, que dificulta conocer cómo se ha generado una respuesta.

La guía advierte, además, de los riesgos derivados del uso de IA por terceros. Las actas, las transcripciones y los resúmenes automatizados de reuniones pueden comprometer información confidencial, datos personales o propiedad intelectual.

4. Responsabilidades de las organizaciones de investigación y los financiadores

4.1. Organizaciones de investigación

Las instituciones deben promover una cultura de uso responsable, facilitar formación a los distintos niveles profesionales y ofrecer orientaciones para verificar resultados, proteger datos y respetar los derechos de propiedad intelectual. La Comisión destaca la importancia de generar un entorno de confianza en el que la declaración del uso de IA no provoque automáticamente consecuencias desfavorables para el investigador. También recomienda realizar un seguimiento de los usos internos, evaluar el impacto ambiental, incorporar las directrices a los códigos institucionales de buenas prácticas y, cuando resulte posible y necesario, proporcionar herramientas propias o sometidas a una gobernanza adecuada. Estas herramientas deben disponer de garantías suficientes de ciberseguridad, protección de datos y confidencialidad.

4.2. Organismos de financiación

Los financiadores deben favorecer instrumentos compatibles con el uso responsable de la IA, exigir el cumplimiento de las normas aplicables y facilitar que los solicitantes declaren los usos sustanciales realizados en la preparación de sus propuestas. Asimismo, deben orientar a los evaluadores sobre protección de datos, confidencialidad, transparencia y límites a la delegación del juicio científico. La evaluación automatizada exige cautelas adicionales cuando pueda influir en la selección, clasificación, priorización o exclusión de propuestas.

La Comisión llama también la atención sobre los hidden prompts: instrucciones ocultas en documentos o propuestas que pueden intentar condicionar el comportamiento de los sistemas de IA sin conocimiento del evaluador. Los procedimientos deben diseñarse teniendo en cuenta esta posibilidad.

La experimentación institucional con IA puede resultar legítima, pero debe acompañarse de salvaguardas proporcionadas, transparencia, protección de la información y garantías de trato justo para los solicitantes.

5. Cuestiones abiertas: IA agéntica, transparencia y evaluación

5.1. La IA agéntica y los límites de la autonomía

La evolución desde sistemas generativos hacia sistemas agénticos introduce una dificultad adicional: algunas herramientas pueden planificar secuencias de acciones, utilizar otros recursos y adaptarse a entornos cambiantes con cierto grado de autonomía.

La guía toma como referencia el análisis de la OCDE sobre los fundamentos conceptuales de la IA agéntica. La autonomía operativa de estos sistemas no debe confundirse con independencia científica ni con una transferencia de responsabilidad. Su empleo exige supervisión, puntos de control y verificación humana de las decisiones relevantes.

5.2. El alcance de la divulgación

Continúa siendo necesario precisar el umbral, el nivel de detalle y el formato de la declaración del uso de IA. La distinción entre apoyo editorial y uso sustancial ofrece un criterio práctico, pero requiere atender a la función que la herramienta desempeña en cada investigación.

La orientación de la Comisión es clara: declarar el uso cuando tenga una incidencia sustancial o relevante en el proceso científico o en la presentación de sus resultados y, ante la duda, optar por la divulgación, al final la autoría es el problema que conviene aclarar.

5.3. La revisión por pares y el mérito científico

La revisión por pares exige preservar la independencia del juicio evaluador. La IA puede prestar apoyo en tareas permitidas, pero no sustituir la valoración de la novedad, la originalidad, la relevancia, la suficiencia de las pruebas o el mérito científico de una propuesta o publicación. La protección de los materiales inéditos es igualmente esencial. La confidencialidad no desaparece porque la evaluación se apoye en herramientas automatizadas.

5.4. La evaluación de propuestas de investigación

La IA facilita la producción de textos formalmente pulidos y homogéneos. Esta posibilidad puede incrementar el volumen de solicitudes sin que aumente necesariamente su calidad científica. El problema no consiste en penalizar el uso de herramientas de escritura, sino en evitar que la presentación formal se confunda con el mérito investigador y que la automatización de los procedimientos debilite la igualdad de trato, la transparencia o la independencia de la evaluación.

6. Valoración doctrinal: implicaciones para la Filosofía del Derecho

Las siguientes consideraciones constituyen una interpretación propia de las directrices y no deben confundirse con afirmaciones expresas de la Comisión, pero son preocupaciones que mantengo desde el blog.

6.1. El valor jurídico del soft law

La naturaleza no vinculante de las directrices no las convierte en irrelevantes. Pueden orientar la elaboración de códigos institucionales, las condiciones de financiación y la concreción de buenas prácticas científicas.

Cabe sostener, con las debidas cautelas, que pueden servir como elemento de referencia al valorar la diligencia exigible en determinados procedimientos disciplinarios o contractuales, siempre que resulte jurídicamente pertinente. No cabe afirmar, sin embargo, que su incumplimiento determine por sí mismo una infracción o responsabilidad: esa conclusión dependerá de las normas aplicables, de las obligaciones asumidas y de las circunstancias del caso. La distinción entre obligatoriedad formal y relevancia interpretativa resulta aquí fundamental.

6.2. La imputación de responsabilidad

La negativa a reconocer autoría a la IA y la insistencia en que el uso de agentes no exime de responsabilidad plantean una cuestión clásica de teoría jurídica: la identificación del sujeto al que se atribuyen las decisiones y sus consecuencias. La herramienta puede intervenir materialmente en la producción de un resultado, pero esa intervención no equivale por sí sola a la condición de sujeto responsable. La imputación exige examinar la conducta humana, el marco institucional, las obligaciones aplicables y el grado de supervisión ejercido.

La IA agéntica hace especialmente visible esta cuestión: cuanto mayor sea la autonomía operativa del sistema, más importante resulta diseñar mecanismos que permitan reconstruir el proceso y determinar quién tomó, validó o debió controlar las decisiones relevantes.

6.3. El «uso sustancial» como concepto jurídico indeterminado

La expresión «uso sustancial» no se resuelve mediante una clasificación puramente tecnológica. Depende de la función desempeñada por la herramienta y de su influencia en la investigación.

La distinción entre corrección lingüística e intervención en la formulación de hipótesis constituye una orientación útil, aunque pueden existir situaciones intermedias. En estos casos deben ponderarse la incidencia real de la IA, las reglas institucionales y las exigencias de transparencia de la disciplina correspondiente.

La recomendación de declarar el uso cuando existan dudas actúa como criterio prudencial de cierre, sin eliminar la necesidad de una valoración contextual.

6.4. La tensión entre transparencia y evaluación

La propia guía reconoce que la divulgación del uso de IA puede influir negativamente en determinadas evaluaciones. De ahí la recomendación de promover entornos institucionales que no penalicen automáticamente la declaración.

Surge así una tensión entre dos exigencias legítimas: hacer visible la intervención de la IA y evitar que esa transparencia genere un perjuicio injustificado. La respuesta no debería consistir en ocultar su uso, sino en establecer criterios de evaluación que distingan entre el empleo responsable de herramientas y la falta de rigor científico.

6.5. La articulación con el Derecho vigente

Las directrices remiten a la normativa europea sobre inteligencia artificial y protección de datos, pero no pretenden desarrollar un análisis sistemático de sus obligaciones.

Un estudio jurídico completo debe conectarlas, en particular, con el Reglamento (UE) 2024/1689, por el que se establecen normas armonizadas en materia de inteligencia artificial, y con el Reglamento (UE) 2016/679, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales.

La aplicación de estas normas exige determinar su ámbito material y subjetivo, las obligaciones concretas que correspondan a cada actor y las circunstancias en que se utiliza el sistema. No toda utilización de IA en investigación genera las mismas obligaciones ni puede analizarse al margen del contexto.

7. Conclusión

Las directrices de octubre de 2026 ofrecen un marco práctico para incorporar la inteligencia artificial a la investigación sin renunciar a la integridad científica, la transparencia y la responsabilidad humana. Su aportación más relevante no consiste en crear un régimen jurídico nuevo, sino en trasladar principios existentes a situaciones en las que la generación automatizada de contenidos y la autonomía operativa de los agentes dificultan el control del proceso investigador.

Desde la Filosofía del Derecho, el documento permite profundizar en tres cuestiones: la imputación de responsabilidad cuando intervienen sistemas autónomos, la concreción de los deberes de diligencia en la investigación y la relación entre transparencia, confianza institucional y evaluación justa.

La innovación científica requiere herramientas nuevas, pero también criterios jurídicos y éticos que permitan explicar, verificar y atribuir las decisiones. La responsabilidad humana no es un elemento accesorio de la investigación asistida por IA: constituye una condición para preservar su credibilidad.

Referencias básicas

ALLEA. (2023). The European Code of Conduct for Research Integrity — Revised Edition 2023. All European Academies.
Comisión Europea, Dirección General de Investigación e Innovación. (2026). Living guidelines on the responsible use of generative AI in research (cuarta versión, octubre de 2026). Oficina de Publicaciones de la Unión Europea. Documento oficial.
Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos.
Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial.
OECD. (2026). The agentic AI landscape and its conceptual foundations. OECD Artificial Intelligence Papers, n.º 56. https://doi.org/10.1787/396cf758-en

Licencia de uso

Esta obra se distribuye bajo la licencia Creative Commons Atribución 4.0 Internacional (CC BY 4.0). Se permite compartir y adaptar el contenido, incluso con fines comerciales, siempre que se reconozca adecuadamente la autoría de Santiago Carretero Sánchez, se incluya un enlace a la licencia y se indique si se han realizado cambios. Licencia completa: https://creativecommons.org/licenses/by/4.0/deed.es

Buscar este blog

BLOG DE LAIAACTUAL (Santiago Carretero, Profesor Titular de Filosofía del Derecho)