Erklärbare KI (XAI)

Erklärbare KI bezeichnet Methoden, die die Vorhersagen von Machine-Learning-Modellen für Menschen nachvollziehbar machen, indem sie zeigen, welche Eingangsgrößen ein bestimmtes Ergebnis bewirkt haben. In der Industrie erlaubt sie Ingenieuren, KI-gestützten Warnungen zu vertrauen und auf ihrer Grundlage zu handeln, statt sie als Blackbox zu behandeln.

Viele leistungsstarke industrielle Modelle – neuronale Netze, Gradient-Boosted Trees – sind undurchsichtig: Sie geben eine Fehlerwahrscheinlichkeit oder einen Sollwert aus, ohne das Warum offenzulegen. Erklärbare KI fügt eine Ebene hinzu, die eine Vorhersage ihren beitragenden Variablen zuordnet, etwa indem sie zeigt, dass eine gemeldete Anomalie hauptsächlich durch eine steigende Lagertemperatur und einen sinkenden Durchfluss verursacht wird.

Gängige Verfahren umfassen Merkmalswichtigkeits-Scores und lokale Erklärungen, die die Begründung hinter einer einzelnen Vorhersage beschreiben. Diese Methoden verändern das zugrunde liegende Modell nicht; sie interpretieren es im Nachhinein oder nutzen von Natur aus transparente Modellstrukturen.

Erklärbarkeit ist in industriellen Umgebungen wichtig, weil Betreiber für sicherheitskritische und kostenintensive Entscheidungen verantwortlich sind. Eine Warnung, die ein Ingenieur hinterfragen kann, wird umgesetzt; eine unerklärte wird ignoriert. Sie unterstützt zudem die Validierung, die regulatorische Akzeptanz und die Fehlersuche bei Modellen, die mit der Zeit driften.

Verwandte Begriffe

Machine Learning (Industrial) · Neural Network · Anomaly Detection