IA explicable (XAI)

La IA explicable se refiere a métodos que hacen comprensibles para las personas las predicciones de los modelos de aprendizaje automático, mostrando qué entradas determinaron una salida concreta. En la industria, permite que los ingenieros confíen en las alertas generadas por IA y actúen en consecuencia, en lugar de tratarlas como una caja negra.

Muchos modelos industriales de alto rendimiento —redes neuronales, árboles potenciados por gradiente— son opacos: emiten una probabilidad de fallo o un valor de consigna sin revelar el porqué. La IA explicable añade una capa que atribuye una predicción a las variables que contribuyen a ella, mostrando por ejemplo que una anomalía señalada se debe principalmente a una temperatura de rodamiento en aumento y a un caudal en descenso.

Las técnicas habituales incluyen las puntuaciones de importancia de las características y las explicaciones locales que describen el razonamiento detrás de una sola predicción. Estos métodos no modifican el modelo subyacente; lo interpretan a posteriori o emplean estructuras de modelo inherentemente transparentes.

La explicabilidad es importante en entornos industriales porque los operadores son responsables de decisiones críticas para la seguridad y de alto coste. Una alerta que un ingeniero puede examinar se atiende; una sin explicación se ignora. Además, respalda la validación, la aceptación normativa y la depuración de modelos que derivan con el tiempo.

Términos relacionados

Machine Learning (Industrial) · Neural Network · Anomaly Detection