INSTRUMENTOS PARA DETECTAR SI UN DOCUMENTO HA SIDO GENERADO POR INTELIGENCIA ARTIFICIAL (IA)

 INSTRUMENTOS PARA DETECTAR SI UN DOCUMENTO HA SIDO GENERADO POR INTELIGENCIA ARTIFICIAL (IA)

Por Santiago Carretero Sánchez, Profesor Titular de Filosofía del Derecho, Abogado

 

El uso de sistemas de Inteligencia Artificial (IA) en la generación de documentos plantea dudas sobre su autenticidad y fiabilidad, especialmente en el ámbito jurídico. A continuación, se exponen los principales instrumentos técnicos y metodológicos que pueden emplearse para detectar si un documento ha sido generado por IA.

1. Detectores de textos generados por IA

- Basados en modelos lingüísticos inversos que analizan patrones estadísticos de los grandes modelos de lenguaje (LLM).
- Herramientas destacadas:
  • GPTZero, Winston AI, Turnitin IA: analizan perplejidad y variación gramatical.
  • Sapling AI Detector, Content at Scale: detección en varios idiomas.
  • Originality.AI: útil en documentos largos.
- Limitación: no son infalibles y pueden arrojar falsos positivos; por sí solos no constituyen prueba concluyente.

2.Metadatos y huella digiral

- Inspección de metadatos en archivos (PDF, Word, imágenes) con herramientas como ExifTool o Belkasoft Evidence Center.
- Permite detectar:
  • Software de creación (p.ej., referencias a OpenAI, ChatGPT).
  • Incongruencias en fechas de creación y edición.
- Huella digital de IA: algunas empresas (OpenAI, Google DeepMind) incorporan marcas invisibles como SynthID.

3. Análisis de estilo y lingüístico

- Técnica de lingüística forense basada en la frecuencia de palabras, estructura sintáctica y variación estilística.
- La IA suele mostrar:
  • Frases excesivamente equilibradas y gramaticalmente correctas.
  • Baja variación en conectores y estilo.
- Programas recomendados: JGAAP (Java Graphical Authorship Attribution Program) y Stylo (R).

4.  Análisis de videos e imágenes deepfakes

- Herramientas específicas para detectar manipulaciones visuales:
  • Intel FakeCatcher, Microsoft Video Authenticator, Amber Video.
- Comparación mediante hashing criptográfico con bases de datos de imágenes originales.

5. cadena de custodia y pericial judicial

- En el ámbito procesal español, el análisis se canaliza mediante prueba pericial informática (arts. 335 y ss. LEC; 456 y ss. LECrim).
- El perito debe:
  • Verificar logs y origen del archivo.
  • Acreditar la manipulación o generación artificial mediante combinación de varias técnicas.

6. Valoración jurídica final

- No existe un método único 100% fiable; la solidez probatoria requiere combinar varios instrumentos.
- La falta de autenticidad o imposibilidad de verificar el origen humano puede determinar la nulidad o menor valor probatorio del documento (arts. 326 LEC y 726 LECrim).

Comentarios

Publicar un comentario

Entradas populares de este blog

ESQUEMA DETALLADO DE ESCRITO AJUSTADO AL MASC (PARA LETRADOS)

  🧷 ESQUEMA DETALLADO DE ESCRITO AJUSTADO AL MASC (PARA LETRADOS) Por Santiago Carretero Sánchez, Profesor Titular de Filosofía del Derecho, Abogado       1. Encabezamiento Órgano judicial : Ilmo./a. Sr./Sra. Letrado/a de la Administración de Justicia del Juzgado de [Primera Instancia] nº ___ de [localidad]. Parte compareciente : D./D.ª [Nombre del letrado/a del solicitante], en nombre y representación de [cliente], conforme a poder/apoderamiento (notarial o apud acta) que se acompaña/se encuentra ya incorporado. Procedimiento : Indicar si es escrito autónomo previo a demanda o subsanación de requerimiento judicial (art. 438.1 LEC). 2. Exposición de antecedentes y hechos relevantes Breve reseña del conflicto : Detallar la controversia con hechos jurídicamente relevantes. Indicación de la voluntad de acudir a MASC : Expresar que, antes de iniciar/reanudar el procedimiento jud...
Leer más

EL MODELO DE INTENTO DE CONCILIACIÓN QUE IMPONE LA LEY DE EFICIENCIA PROCESAL, PROPUESTA DEL ICAM

  MODELO PARA LA ACREDITACIÓN DEL INTENTO DE NEGOCIACIÓN Y TERMINACIÓN DEL PROCESO SIN ACUERDO Artículo 10º.1 de la Ley Orgánica 1/2025, de 2 de enero, de medidas en materia de eficiencia del Servicio Público de Justicia     Artículo 10. Acreditación del intento de negociación y terminación del proceso sin acuerdo.   1. A los efectos de acreditar que se ha intentado una actividad negociadora previa y cumplir el requisito de procedibilidad, dicha actividad negociadora o el intento de la misma deberá ser recogida documentalmente .   2. Si no hubiera intervenido una tercera persona neutral, la acreditación se cumplirá mediante cualquier documento firmado por ambas partes en el que se deje constancia de la identidad de las mismas y, en su caso, de las personas profesionales o expertas que hayan participado asesorándolas , la fecha, el objeto de la controversia, la fecha de la reunión o reuniones mantenidas, en su caso, y la declaración responsable d...
Leer más

La justicia frente a las “alucinaciones jurídicas”: una advertencia global desde la Corte Suprema de Colombia

Imagen
  La justicia frente a las “alucinaciones jurídicas”: una advertencia global desde la Corte Suprema de Colombia Por el Profesor Santiago Carretero, Profesor Titular de Filosofía del Derecho de la Universidad Rey Juan Carlos La sentencia  STC 17832-2025 , dictada por la Corte Suprema de Justicia de Colombia el 5 de noviembre de 2025, constituye uno de los pronunciamientos más relevantes en materia de motivación judicial y uso de tecnologías generativas en la función jurisdiccional. Su impacto trasciende el caso concreto: introduce en el lenguaje jurídico el riesgo de las  alucinaciones jurídicas  y marca un estándar de diligencia para cualquier tribunal que utilice herramientas tecnológicas en la elaboración de sus decisiones. 1. El caso: cuando una decisión se funda en citas inexistentes La Corte conoció una acción de tutela contra una sentencia del Tribunal Superior de Sincelejo cuya motivación incluía citas jurisprudenciales atribuidas a decisiones previas —entre e...
Leer más