IA Explicável (XAI)

A IA Explicável refere-se a métodos que tornam as previsões dos modelos de aprendizagem automática compreensíveis para os humanos, mostrando quais as entradas que determinaram um dado resultado. Na indústria, permite que os engenheiros confiem e atuem com base em alertas gerados por IA, em vez de os tratarem como uma caixa negra.

Muitos modelos industriais de elevado desempenho — redes neuronais, árvores com gradient boosting — são opacos: produzem uma probabilidade de avaria ou um ponto de regulação sem revelar o motivo. A IA Explicável acrescenta uma camada que atribui uma previsão às variáveis que para ela contribuíram, mostrando, por exemplo, que uma anomalia sinalizada é determinada sobretudo pelo aumento da temperatura de um rolamento e pela diminuição do caudal.

Entre as técnicas comuns incluem-se as pontuações de importância das variáveis e as explicações locais que descrevem o raciocínio por detrás de uma única previsão. Estes métodos não alteram o modelo subjacente; interpretam-no a posteriori ou recorrem a estruturas de modelo inerentemente transparentes.

A explicabilidade é importante em contextos industriais porque os operadores são responsáveis por decisões críticas para a segurança e de elevado custo. Um alerta que um engenheiro pode interrogar acaba por gerar ação; um alerta inexplicado é ignorado. Apoia também a validação, a aceitação regulamentar e a depuração de modelos que se degradam ao longo do tempo.

Termos relacionados

Machine Learning (Industrial) · Neural Network · Anomaly Detection