Explainable AI (XAI)

L'Explainable AI (XAI) indica i metodi che rendono comprensibili all'uomo le previsioni dei modelli di machine learning, mostrando quali input hanno determinato un dato risultato. In ambito industriale consente agli ingegneri di fidarsi degli allarmi generati dall'AI e di agire di conseguenza, invece di trattarli come una scatola nera.

Molti modelli industriali ad alte prestazioni — reti neurali, alberi con gradient boosting — sono opachi: restituiscono una probabilità di guasto o un setpoint senza rivelare il perché. L'Explainable AI aggiunge uno strato che attribuisce una previsione alle variabili che vi contribuiscono, mostrando per esempio che un'anomalia segnalata è dovuta principalmente all'aumento della temperatura di un cuscinetto e al calo della portata.

Le tecniche più comuni includono i punteggi di importanza delle variabili e le spiegazioni locali che descrivono il ragionamento dietro una singola previsione. Questi metodi non modificano il modello sottostante: lo interpretano a posteriori oppure ricorrono a strutture di modello intrinsecamente trasparenti.

La spiegabilità è importante in ambito industriale perché gli operatori sono responsabili di decisioni critiche per la sicurezza e ad alto costo. Un allarme che un ingegnere può interrogare viene gestito; uno inspiegato viene ignorato. Inoltre supporta la validazione, l'accettazione normativa e il debug dei modelli che derivano nel tempo.

Termini correlati

Machine Learning (Industrial) · Neural Network · Anomaly Detection