USO ÉTICO Y DOCENTE DE CHATGPT: LAS PETICIONES ADECUADAS

 

USO ÉTICO Y DOCENTE DE CHATGPT:

LAS PETICIONES ADECUADAS

 

 

Santiago Carretero Sánchez

Profesor Titular de Filosofía del Derecho

Universidad Rey Juan Carlos

Abogado del Ilustre Colegio de Abogados de Madrid

Agosto de 2026

 

1. Presentación y justificación

El uso de ChatGPT y de otros sistemas de inteligencia artificial generativa se ha extendido rápidamente entre el alumnado universitario, también en los estudios de Derecho. Esta herramienta puede ser un apoyo valioso para el estudio y la investigación, pero plantea un riesgo específico y grave en el ámbito jurídico: la posibilidad de que el sistema genere afirmaciones, normas, sentencias o citas que parecen reales pero que no existen o no son exactas (las denominadas «alucinaciones»).

Este documento de trabajo tiene una finalidad docente: fijar un protocolo claro sobre cómo debe formularse una petición a ChatGPT en el contexto de la enseñanza y la práctica del Derecho, de manera que la información obtenida sea siempre verificable, esté respaldada por fuentes contrastadas y accesibles mediante enlace directo, y no incorpore datos que no puedan comprobarse documentalmente.

El documento no pretende desincentivar el uso de la IA generativa, sino disciplinarlo: convertirlo en un ejercicio de rigor metodológico y de responsabilidad intelectual, coherente con la deontología de la profesión jurídica y con el método propio de la Filosofía del Derecho.

2. Objetivos del documento

•     Fijar los principios éticos que deben regir cualquier petición (prompt) que el alumnado o el profesorado dirija a ChatGPT sobre cuestiones jurídicas.

•     Proporcionar un prompt modelo, preciso y reutilizable, que exija a la IA verificación, cita de fuentes y enlace directo a las mismas.

•     Establecer una batería de repreguntas de control para contrastar la veracidad y el rigor jurídico de cada respuesta obtenida.

•     Ofrecer una checklist docente que permita evaluar, antes de dar por válida una información, si esta cumple los requisitos de verificabilidad exigidos.

•     Fomentar el pensamiento crítico del alumnado frente a la respuesta automática, en línea con el método propio de la Filosofía del Derecho.

3. Marco de referencia normativo y deontológico

El protocolo que se propone en este documento no es una construcción arbitraria: se apoya en el marco normativo y deontológico que ya regula, o está empezando a regular, el uso de la inteligencia artificial en el ejercicio profesional del Derecho en España y en la Unión Europea. Entre las referencias más relevantes cabe citar las siguientes.

Reglamento (UE) 2024/1689 de Inteligencia Artificial (AI Act). primera regulación integral de la Unión Europea sobre sistemas de inteligencia artificial, en vigor desde el 1 de agosto de 2024, con aplicación progresiva de sus obligaciones.

Código Deontológico de la Abogacía Española. aprobado por el Pleno del Consejo General de la Abogacía, y en particular su artículo 11, que impone al abogado el deber de actuar con la diligencia que exigen las circunstancias del caso; deber que se proyecta directamente sobre la verificación de cualquier contenido generado por IA antes de su firma.

Circular Interpretativa 3/2026 del Consejo General de la Abogacía Española (CGAE). aprobada por el Pleno el 10 de abril de 2026, regula la elaboración, firma y entrega de escritos jurídicos generados con asistencia de inteligencia artificial generativa; no prohíbe su uso, pero fija criterios operativos de responsabilidad profesional.

Libro Blanco sobre Inteligencia Artificial y Abogacía. presentado por el CGAE el 29 de enero de 2026, con criterios y recomendaciones para una adopción responsable de la IA en el ejercicio del Derecho.

Guía del Ilustre Colegio de Abogados de Madrid (ICAM) sobre Inteligencia Artificial. recopila buenas prácticas y remite, entre otras referencias, a la guía del Consejo de Colegios de la Abogacía de Europa (CCBE), a la política de uso de IA del Ministerio de Justicia y a las orientaciones de la Agencia Española de Protección de Datos (AEPD).

Este marco normativo y deontológico confirma que exigir verificación, trazabilidad de fuentes y prudencia epistémica no es una recomendación docente aislada, sino una traducción práctica de obligaciones profesionales ya reconocidas.

4. El problema de las «alucinaciones»: casos que justifican el protocolo

La experiencia comparada y española de los últimos años demuestra que el riesgo de las alucinaciones no es teórico. A continuación se recogen, con fines exclusivamente docentes, algunos casos conocidos y publicados en medios especializados, que ilustran las consecuencias de no verificar la información suministrada por una IA generativa antes de utilizarla en un escrito jurídico.

Caso Mata v. Avianca (Distrito Sur de Nueva York, 2023). un abogado presentó un escrito citando varios precedentes judiciales que ChatGPT había generado y que resultaron ser inexistentes. El juez impuso una sanción económica al letrado y a su despacho, y exigió cartas de explicación a los tribunales a los que se habían atribuido falsamente las resoluciones.

Caso Crabill (Colorado, EE. UU.). un abogado fue suspendido temporalmente en el ejercicio de su profesión por presentar un escrito con jurisprudencia «falsa» generada por ChatGPT y por no advertir de ello al tribunal cuando descubrió el error.

Caso Mostafavi (California, EE. UU.). un letrado fue multado por presentar un recurso de apelación con veintitrés citas legales, de las cuales una amplia mayoría resultaron ser completamente inventadas por la IA.

Caso español ante el Tribunal Superior de Justicia de Canarias. la Sala de lo Penal impuso una multa a un abogado por incluir en un escrito de apelación varias decenas de citas de jurisprudencia —entre ellas, supuestas resoluciones del Tribunal Supremo— generadas por una herramienta de inteligencia artificial de propósito general y que resultaron inexistentes o erróneas; el tribunal dio traslado de los hechos al colegio de abogados correspondiente.

Estos casos comparten un mismo patrón: la IA generativa produjo un contenido verosímil, con apariencia formal de rigor jurídico, que nunca fue contrastado con una fuente oficial antes de su uso. El presente protocolo pretende evitar precisamente ese patrón en el aula.

5. Principios éticos para las peticiones a ChatGPT

Toda petición (prompt) que se formule a ChatGPT sobre una cuestión jurídica o docente debe regirse por los siguientes principios:

•     Principio de no invención (anti-alucinación). La IA no debe generar normas, sentencias, citas, datos o autores que no pueda acreditar documentalmente; ante la duda, debe declarar que no dispone de información verificada.

•     Principio de verificabilidad documental. Toda afirmación relevante debe poder comprobarse en un documento original, público y accesible.

•     Principio de trazabilidad y acceso directo a la fuente. Cada fuente citada debe ir acompañada de un enlace directo y funcional que permita al usuario acceder a ella sin intermediarios.

•     Principio de actualidad y vigencia normativa. Debe indicarse expresamente si la norma, sentencia o dato citado sigue vigente en la fecha de la consulta.

•     Principio de prudencia epistémica. La IA debe declarar el grado de certeza de su respuesta y distinguir claramente entre dato contrastado, interpretación doctrinal y opinión.

•     Principio de responsabilidad última del usuario. La respuesta de la IA nunca sustituye la verificación y el criterio profesional o académico de quien la utiliza; el usuario firma y responde por lo que emplea.

6. Protocolo de petición adecuada (buenas prácticas)

1.     Definir con precisión el objeto exacto de la consulta, evitando preguntas abiertas o ambiguas que faciliten respuestas genéricas o inventadas.

2.     Exigir expresamente en la petición que la IA cite únicamente fuentes primarias y oficiales, con enlace directo a cada una de ellas.

3.     Prohibir de forma explícita en el propio prompt la generación de citas, artículos o sentencias que no puedan acreditarse documentalmente.

4.     Solicitar que la IA indique el grado de certeza de cada afirmación y que separe lo verificado de lo no verificado.

5.     Contrastar siempre la respuesta con bases de datos oficiales antes de emplearla (BOE, CENDOJ / Poder Judicial, EUR-Lex, Tribunal Constitucional, entre otras).

6.     Documentar el proceso: conservar el prompt utilizado, la respuesta obtenida y las fuentes consultadas, como evidencia del trabajo realizado.

7.     Repreguntar sistemáticamente ante cualquier cita, dato o afirmación jurídica antes de incorporarla a un trabajo docente o profesional.

7. Prompt modelo para peticiones verificables

A continuación se propone un prompt modelo, formulado en primera persona por quien lo utiliza, que puede adaptarse a cualquier consulta jurídica concreta sustituyendo el texto entre corchetes. Su finalidad es obligar a la IA a operar dentro de los principios expuestos en el apartado anterior.

PROMPT MODELO — Consulta jurídica verificable «Actúa como un asistente de investigación jurídica sometido a un estricto deber de veracidad documental. Necesito información contrastada sobre: [describir aquí la cuestión jurídica exacta]. Sigue estas reglas de forma obligatoria en tu respuesta: –    No inventes normas, artículos, sentencias, autores, fechas ni datos de ningún tipo. Si no dispones de información verificada sobre algún extremo, dilo expresamente en vez de generar una respuesta aproximada. –    Cita únicamente fuentes primarias y oficiales (boletines oficiales, bases de datos judiciales, textos legales consolidados, publicaciones institucionales), evitando blogs, foros o páginas sin garantía editorial. –    Para cada afirmación relevante, indica el enlace directo (URL) a la fuente original en la que puede comprobarse literalmente, y no un enlace genérico a un buscador. –    Indica la fecha de la fuente y si la norma o resolución citada sigue vigente en la fecha actual, o si ha sido modificada o derogada. –    Distingue con claridad tres niveles en tu respuesta: (a) datos verificados con fuente directa, (b) interpretación doctrinal razonada, y (c) opinión o valoración propia, si la hubiera. –    Si una parte de la información no puede contrastarse documentalmente, señálalo expresamente en lugar de omitirlo o de rellenarlo con una suposición verosímil. –    Al final de la respuesta, incluye un listado numerado de todas las fuentes citadas con su enlace directo, para facilitar su verificación independiente.»

 

Este prompt puede completarse añadiendo el contexto docente concreto (asignatura, nivel del alumnado, extensión requerida) sin alterar las reglas de verificación, que deben mantenerse siempre como condición fija de la petición.

8. Batería de repreguntas de control

Una vez obtenida la primera respuesta, es imprescindible repreguntar para contrastar su veracidad y su rigor jurídico. Se propone la siguiente batería de repreguntas, que puede utilizarse de forma sucesiva:

1.     ¿Puedes indicarme la fuente exacta y el enlace directo de cada una de las afirmaciones anteriores?

2.     ¿Puedes confirmar que esa norma, artículo o sentencia existe literalmente en el texto oficial, sin resumir ni interpretar su contenido?

3.     ¿Sigue vigente esta disposición en la fecha de hoy? ¿Ha sido modificada, derogada o declarada inconstitucional en algún punto?

4.     ¿Qué grado de certeza tienes sobre esta afirmación? ¿Existe alguna duda o divergencia doctrinal o jurisprudencial al respecto?

5.     ¿En qué fuente exactamente has basado este dato? ¿Es una fuente primaria oficial o una fuente secundaria o divulgativa?

6.     ¿Puedes ofrecerme una fuente alternativa, igualmente oficial, que permita contrastar de forma independiente esta misma información?

7.     Si no dispones de una fuente verificable para alguno de los datos aportados, ¿puedes indicarlo expresamente y retirarlo de la respuesta?

9. Checklist docente de verificación

Antes de dar por válida y utilizable una información obtenida de ChatGPT en un trabajo académico o profesional, debe comprobarse el cumplimiento de los siguientes puntos:

Punto de control	Verificado (Sí/No)
La fuente citada es una fuente primaria y oficial (no un blog, foro o resumen de terceros).	☐
Cada fuente incluye un enlace directo y funcional, comprobado personalmente por quien realiza la consulta.	☐
Se ha comprobado la fecha de la fuente y su vigencia actual.	☐
El contenido citado coincide literalmente con el texto original, sin interpretaciones añadidas por la IA.	☐
Se ha diferenciado el dato verificado de la interpretación doctrinal o de la opinión.	☐
Se ha repreguntado a la IA ante cualquier duda o cita relevante.	☐
Se conserva un registro del prompt utilizado, de la respuesta obtenida y de las fuentes consultadas.	☐

10. Fuentes oficiales recomendadas para el contraste jurídico

Se recomienda contrastar siempre la información jurídica obtenida de una IA generativa con alguna de las siguientes bases de datos y portales oficiales, de acceso público y gratuito:

• Boletín Oficial del Estado (BOE) — legislación consolidada — https://www.boe.es

• Centro de Documentación Judicial (CENDOJ) / buscador de jurisprudencia del Poder Judicial — https://www.poderjudicial.es/search/

• Tribunal Constitucional — buscador de jurisprudencia — https://hj.tribunalconstitucional.es

• EUR-Lex — Derecho de la Unión Europea — https://eur-lex.europa.eu

• Congreso de los Diputados — actividad parlamentaria y textos legislativos — https://www.congreso.es

• Agencia Española de Protección de Datos (AEPD) — https://www.aepd.es

• Consejo General de la Abogacía Española (CGAE) — https://www.abogacia.es

11. Referencias empleadas en la elaboración de este documento

En coherencia con el propio protocolo que se propone, las afirmaciones fácticas de este documento sobre casos y marco normativo se han contrastado con las siguientes fuentes, accesibles mediante enlace directo:

• Legatiq — Análisis del caso Mata v. Avianca — https://legatiq.ai/en-US/recursos/analisis/caso-mata-vs-avianca-chatgpt-abogado-sancion

• Abogados.com.ar — Caso de suspensión por jurisprudencia falsa de ChatGPT (Colorado) — https://abogados.com.ar/estados-unidos-nuevo-caso-de-suspension-por-utilizar-falsa-jurisprudencia-del-chatgpt/34175

• Merca20 — Multa a abogado de Los Ángeles por citas legales inventadas por ChatGPT — https://www.merca20.com/abogado-enfrenta-multa-historica-por-usar-chatgpt-para-resolver-casos/

• El Español — Multa del TSJ de Canarias por sentencias falsas generadas por IA — https://www.elespanol.com/espana/tribunales/20260213/multa-euros-abogado-citar-escrito-sentencias-falsas-generadas-inteligencia-artificial/1003744129079_0.html

• Abogacía Española — Circular sobre riesgos del uso de IA generativa en textos profesionales — https://www.abogacia.es/actualidad/noticias/la-abogacia-espanola-advierte-de-los-riesgos-de-usar-la-ia-generativa-en-textos-profesionales/

• Abogacía Española — Libro Blanco sobre Inteligencia Artificial y Abogacía — https://www.abogacia.es/wp-content/uploads/2026/01/libro-ai-digital.pdf

• ICAM — Abogacía e Inteligencia Artificial — https://web.icam.es/abogacia-inteligencia-artificial/

Se recomienda al alumnado y a cualquier lector de este documento comprobar directamente estos enlaces, en aplicación del mismo principio de verificabilidad que aquí se defiende.

12. Conclusión

El uso de ChatGPT en el ámbito docente y jurídico no es, en sí mismo, un problema ético; lo es su uso acrítico, sin verificación y sin conciencia de las limitaciones estructurales de estos sistemas. Formular peticiones adecuadas —precisas, exigentes con la fuente y abiertas a la repregunta— convierte a la IA en un instrumento útil de apoyo al estudio y a la práctica del Derecho, sin sustituir el juicio, la diligencia y la responsabilidad que corresponden, en última instancia, a quien firma y utiliza la información.

Este documento debe entenderse como un instrumento vivo, susceptible de actualizarse a medida que evolucionen tanto las capacidades técnicas de estos sistemas como el marco normativo y deontológico que los regula.

 

Santiago Carretero Sánchez

Profesor Titular de Filosofía del Derecho — Universidad Rey Juan Carlos