Explainable AI (XAI) – erklärbare KI – bezeichnet Methoden, Techniken und Designprinzipien, die sicherstellen, dass die Entscheidungen und Vorhersagen eines KI- oder ML-Modells für Menschen verständlich und nachvollziehbar sind. XAI beantwortet die Frage: „Warum hat das Modell genau diese Ausgabe für genau diese Eingabe produziert?“ – nicht nur was das Modell entschieden hat, sondern warum.
XAI ist kein Luxus, sondern in vielen Kontexten eine Notwendigkeit: Der EU AI Act schreibt Erklärbarkeit für Hochrisiko-KI-Systeme vor. Regulierte Branchen (Banken, Versicherungen, Medizin) müssen automatisierte Entscheidungen gegenüber Kunden und Aufsichtsbehörden begründen können. Und auch intern ist Erklärbarkeit wertvoll: Wenn ein Modell seltsame Entscheidungen trifft, hilft XAI dabei zu verstehen warum – und ob das Modell Bias oder Overfitting aufweist.
XAI-Methoden
SHAP
Shapley-Werte: Wie viel trägt jedes Feature zur Vorhersage bei? Modell-agnostisch, theoretisch fundiert.
LIME
Lokale Approximation: Vereinfachtes Ersatzmodell für eine einzelne Vorhersage. Leicht verständlich.
Feature Importance
Welche Merkmale hat das Modell insgesamt am stärksten genutzt? Global, nicht für Einzelfälle.
Entscheidungsbaum
Inherent erklärbar: Jede Entscheidung als nachvollziehbare Wenn-Dann-Kette darstellbar.
Counterfactuals
„Was müsste sich ändern, damit das Modell anders entscheidet?“ Besonders nutzerfreundlich.
Attention Maps
Bei Transformern: Welche Teile der Eingabe hat das Modell besonders beachtet?
Praxisbeispiel
Eine Bank setzt ein ML-Modell zur Kreditentscheidung ein. Ohne XAI: Das Modell lehnt einen Antrag ab – der Kunde fragt nach dem Grund, aber das Modell ist eine Black Box. Regulatorisch inakzeptabel (EU AI Act, DSGVO Art. 22). Mit SHAP-Werten: Für jeden abgelehnten Antrag wird automatisch generiert: „Ihr Antrag wurde abgelehnt. Die wichtigsten Faktoren: (1) Bestehende Kreditverpflichtungen zu hoch im Verhältnis zum Einkommen [−34 Punkte], (2) Beschäftigungsdauer unter 12 Monate [−18 Punkte], (3) Positiver Wohnstatus als Eigentümer [+12 Punkte].“ Counterfactual ergänzt: „Bei einem Einkommen von X oder reduzierten Verpflichtungen von Y wäre der Antrag genehmigt worden.“ Compliance erfüllt, Kundenkommunikation nachvollziehbar, Sachbearbeiter kann Entscheidung prüfen und übersteuern.
