La pericial algorítmica inversa: reconstrucción probatoria frente a la opacidad de la inteligencia artificial

Santiago Carretero Sánchez
Profesor Titular de Filosofía del Derecho (URJC)

La progresiva incorporación de sistemas de inteligencia artificial en la toma de decisiones con relevancia jurídica ha evidenciado un problema estructural: la dificultad de acceso al funcionamiento interno de los algoritmos. Frente a esta opacidad —frecuentemente derivada de secretos empresariales o de la propia complejidad técnica— comienza a consolidarse una figura probatoria de singular interés: la denominada pericial algorítmica inversa.

Este tipo de pericia no pretende analizar directamente el modelo, sino inferir su lógica de funcionamiento a partir de los resultados producidos. Se trata, en términos metodológicos, de una reconstrucción inductiva basada en patrones de salida, lo que permite detectar sesgos, inconsistencias o resultados discriminatorios sin necesidad de acceso al código fuente. Desde el punto de vista procesal, esta técnica plantea una cuestión central: su encaje en el sistema probatorio de la Ley de Enjuiciamiento Civil, particularmente en relación con la prueba pericial y la valoración conforme a las reglas de la sana crítica.

La doctrina comienza a admitir que, en contextos de asimetría informativa, esta forma de prueba puede resultar no solo admisible, sino necesaria para garantizar la tutela judicial efectiva. En particular, cuando una de las partes controla el sistema algorítmico, la negativa a facilitar información relevante podría justificar una flexibilización de las reglas sobre la carga de la prueba. En este sentido, la pericial inversa actúa como mecanismo compensador frente a la denominada “caja negra algorítmica”.

No obstante, su utilización exige cautelas. La validez de las inferencias dependerá de la calidad de los datos analizados, del tamaño de la muestra y de la robustez metodológica empleada por el perito. Además, será imprescindible evitar conclusiones meramente probabilísticas que no alcancen el estándar exigible en el proceso civil.

En definitiva, la pericial algorítmica inversa se perfila como una herramienta clave en la litigación contemporánea, especialmente en ámbitos como la discriminación automatizada o la responsabilidad por decisiones asistidas por IA. Su desarrollo doctrinal y jurisprudencial determinará en gran medida el equilibrio entre innovación tecnológica y garantías procesales.

Referencias (APA):
Burrell, J. (2016). How the machine ‘thinks’: Understanding opacity in machine learning algorithms. Big Data & Society, 3(1).
Edwards, L., & Veale, M. (2017). Slave to the algorithm? Why a right to explanation is probably not the remedy you are looking for. Duke Law & Technology Review, 16.
Goodman, B., & Flaxman, S. (2017). European Union regulations on algorithmic decision-making. AI Magazine, 38(3).
Wachter, S., Mittelstadt, B., & Floridi, L. (2017). Why a right to explanation does not exist in the GDPR. International Data Privacy Law, 7(2).