Förklarbar AI (XAI)

Förklarbar AI avser metoder som gör maskininlärningsmodellers prediktioner begripliga för människor genom att visa vilka indata som drev fram ett givet resultat. Inom industrin gör det att ingenjörer kan lita på och agera utifrån AI-genererade larm i stället för att behandla dem som en svart låda.

Många högpresterande industriella modeller – neurala nätverk, gradientförstärkta träd – är ogenomskinliga: de ger ut en felsannolikhet eller ett börvärde utan att avslöja varför. Förklarbar AI lägger till ett lager som tillskriver en prediktion till de variabler som bidrog till den, till exempel genom att visa att en flaggad anomali huvudsakligen drivs av en stigande lagertemperatur och ett sjunkande flöde.

Vanliga tekniker omfattar poäng för variablers betydelse och lokala förklaringar som beskriver resonemanget bakom en enskild prediktion. Dessa metoder ändrar inte den underliggande modellen; de tolkar den i efterhand eller använder modellstrukturer som i sig är transparenta.

Förklarbarhet är viktig i industriella miljöer eftersom operatörer ansvarar för säkerhetskritiska och kostsamma beslut. Ett larm som en ingenjör kan granska blir åtgärdat; ett oförklarat larm blir ignorerat. Det stöder även validering, regulatoriskt godkännande och felsökning av modeller som driver iväg över tid.

Relaterade termer

Machine Learning (Industrial) · Neural Network · Anomaly Detection