Wyjaśnialna sztuczna inteligencja (XAI)

Wyjaśnialna sztuczna inteligencja to zbiór metod, które czynią predykcje modeli uczenia maszynowego zrozumiałymi dla człowieka, pokazując, które dane wejściowe wpłynęły na dany wynik. W przemyśle pozwala inżynierom ufać alarmom generowanym przez AI i działać na ich podstawie, zamiast traktować je jak czarną skrzynkę.

Wiele wysokowydajnych modeli przemysłowych — sieci neuronowe, drzewa wzmacniane gradientowo — jest nieprzejrzystych: zwracają prawdopodobieństwo awarii lub wartość zadaną, nie ujawniając, dlaczego. Wyjaśnialna sztuczna inteligencja dodaje warstwę, która przypisuje predykcję do zmiennych ją kształtujących, na przykład pokazując, że zgłoszona anomalia wynika głównie z rosnącej temperatury łożyska i spadającego natężenia przepływu.

Powszechne techniki obejmują ocenę istotności cech oraz wyjaśnienia lokalne opisujące rozumowanie stojące za pojedynczą predykcją. Metody te nie zmieniają modelu bazowego; interpretują go po fakcie lub wykorzystują z natury przejrzyste struktury modeli.

Wyjaśnialność ma znaczenie w środowisku przemysłowym, ponieważ operatorzy odpowiadają za decyzje krytyczne dla bezpieczeństwa i kosztowne. Alarm, który inżynier może zweryfikować, zostaje uwzględniony; niewyjaśniony — zignorowany. Wspiera ona także walidację, akceptację regulacyjną oraz diagnostykę modeli, które dryfują w czasie.

Powiązane terminy

Machine Learning (Industrial) · Neural Network · Anomaly Detection