Selitettävä tekoäly (XAI)

Selitettävä tekoäly tarkoittaa menetelmiä, jotka tekevät koneoppimismallien ennusteista ihmiselle ymmärrettäviä osoittamalla, mitkä syötteet vaikuttivat tiettyyn tulokseen. Teollisuudessa se antaa insinööreille mahdollisuuden luottaa tekoälypohjaisiin hälytyksiin ja toimia niiden mukaan sen sijaan, että niitä käsiteltäisiin mustana laatikkona.

Monet suorituskykyiset teolliset mallit, kuten neuroverkot ja gradienttitehostetut puut, ovat läpinäkymättömiä: ne antavat vikatodennäköisyyden tai asetusarvon paljastamatta syytä. Selitettävä tekoäly lisää kerroksen, joka kohdistaa ennusteen sitä selittäviin muuttujiin, esimerkiksi osoittamalla, että havaittu poikkeama johtuu pääosin nousevasta laakerin lämpötilasta ja laskevasta virtausnopeudesta.

Yleisiä tekniikoita ovat piirteiden tärkeyspisteytys ja paikalliset selitykset, jotka kuvaavat yksittäisen ennusteen taustalla olevaa päättelyä. Nämä menetelmät eivät muuta itse mallia; ne tulkitsevat sitä jälkikäteen tai käyttävät luonnostaan läpinäkyviä mallirakenteita.

Selitettävyys on teollisissa ympäristöissä tärkeää, koska käyttäjät ovat vastuussa turvallisuuskriittisistä ja kalliista päätöksistä. Hälytykseen, jota insinööri voi tarkastella, reagoidaan; selittämätön hälytys jätetään huomiotta. Se tukee myös mallien validointia, viranomaishyväksyntää ja ajan myötä ajautuvien mallien vianetsintää.

Aiheeseen liittyvät termit

Machine Learning (Industrial) · Neural Network · Anomaly Detection