Verklaarbare AI (XAI)

Verklaarbare AI verwijst naar methoden die de voorspellingen van machine-learningmodellen begrijpelijk maken voor mensen, door te tonen welke invoer een bepaalde uitkomst heeft bepaald. In de industrie stelt het ingenieurs in staat om op AI-gestuurde meldingen te vertrouwen en ernaar te handelen, in plaats van ze als een black box te behandelen.

Veel goed presterende industriële modellen, zoals neurale netwerken en gradient-boosted bomen, zijn ondoorzichtig: ze geven een storingskans of een instelpunt af zonder te onthullen waarom. Verklaarbare AI voegt een laag toe die een voorspelling toeschrijft aan de bijdragende variabelen, bijvoorbeeld door te tonen dat een gemarkeerde anomalie voornamelijk wordt veroorzaakt door een stijgende lagertemperatuur en een dalend debiet.

Gangbare technieken zijn onder meer kenmerkbelang-scores en lokale verklaringen die de redenering achter één enkele voorspelling beschrijven. Deze methoden veranderen het onderliggende model niet; ze interpreteren het achteraf of maken gebruik van inherent transparante modelstructuren.

Verklaarbaarheid is belangrijk in industriële omgevingen omdat operators verantwoordelijk zijn voor veiligheidskritische en kostbare beslissingen. Een melding die een ingenieur kan onderzoeken, krijgt opvolging; een onverklaarde melding wordt genegeerd. Het ondersteunt ook validatie, regelgevende acceptatie en het opsporen van fouten in modellen die in de loop van de tijd afdrijven.

Gerelateerde begrippen

Machine Learning (Industrial) · Neural Network · Anomaly Detection