Evaluación de la estabilidad y la fiabilidad de los métodos de aprendizaje automático explicable

Tutores: María Guillen y Juan Aparicio

Los modelos de aprendizaje automático se usan cada vez más para apoyar decisiones en ámbitos sensibles como la medicina, las finanzas o la administración pública. Sin embargo, muchos de ellos funcionan como cajas negras, ya que predicen bien pero no dejan ver en qué se basan. El aprendizaje automático explicable (XAI) busca resolver este problema con métodos como la importancia por permutación (Permutation Feature Importance) o los valores SHAP, que indican qué variables pesan más en las predicciones de un modelo. Estas explicaciones se emplean para justificar modelos ante usuarios, reguladores y expertos del dominio, y a menudo se interpretan como conclusiones sobre el propio problema. Pero suelen calcularse una sola vez, sobre un único modelo ajustado a una única muestra, sin comprobar si se repetirían al cambiar los datos, la semilla del algoritmo o el cálculo de la explicación. Estudios recientes muestran que modelos con la misma precisión pueden dar explicaciones muy distintas, lo que cuestiona su fiabilidad.

Este Trabajo Fin de Máster evaluará la estabilidad y la fiabilidad de las explicaciones de modelos predictivos mediante un estudio de simulación Monte Carlo. Se generarán datos a partir de mecanismos conocidos, variando el tamaño muestral, la correlación entre variables, la relación señal-ruido y la complejidad del modelo (regresión logística, Random Forest, Gradient Boosting y redes neuronales entre otros). Esto permitirá comparar cada explicación con la importancia verdadera de las variables, y así distinguir entre explicaciones inestables y explicaciones estables pero sesgadas. La principal aportación será descomponer la variabilidad de las explicaciones en tres fuentes, que son la muestra de datos, la aleatoriedad del algoritmo de aprendizaje y la del propio método de explicabilidad.