Vysvětlitelná umělá inteligence (XAI)

Vysvětlitelná umělá inteligence označuje metody, které činí predikce modelů strojového učení srozumitelnými pro člověka tím, že ukazují, které vstupy daný výstup způsobily. V průmyslu umožňuje inženýrům důvěřovat výstrahám řízeným umělou inteligencí a jednat podle nich, místo aby je vnímali jako černou skříňku.

Mnoho vysoce výkonných průmyslových modelů – neuronové sítě, gradientně boostované stromy – je neprůhledných: vydají pravděpodobnost poruchy nebo žádanou hodnotu, aniž by odhalily proč. Vysvětlitelná umělá inteligence přidává vrstvu, která přisuzuje predikci jejím přispívajícím proměnným, například ukazuje, že označená anomálie je způsobena hlavně rostoucí teplotou ložiska a klesajícím průtokem.

Mezi běžné techniky patří skóre důležitosti příznaků a lokální vysvětlení, která popisují úvahu stojící za jedinou predikcí. Tyto metody nemění základní model; interpretují jej dodatečně nebo využívají inherentně transparentní struktury modelu.

Vysvětlitelnost je v průmyslovém prostředí důležitá, protože operátoři nesou odpovědnost za rozhodnutí kritická pro bezpečnost a nákladná. Podle výstrahy, kterou může inženýr prozkoumat, se jedná; nevysvětlená výstraha se ignoruje. Podporuje také validaci, regulační přijetí a ladění modelů, které časem driftují.

Související pojmy

Machine Learning (Industrial) · Neural Network · Anomaly Detection