Modelltransparenz bezeichnet das Ausmaß, in dem ein Machine-Learning-Modell für Menschen verständlich, nachvollziehbar und überprüfbar ist – sowohl in seiner internen Struktur (wie trifft es Entscheidungen?) als auch in seinen Auswirkungen (welche Konsequenzen hat es für verschiedene Gruppen?). Transparenz ist der breitere Begriff, der Explainability (Erklärbarkeit im Einzelfall) einschließt, aber darüber hinausgeht: Was trainiert das Modell? Auf welchen Daten? Welche Annahmen macht es? Wie wird es überwacht?
Modelltransparenz ist das Fundament des Vertrauens in KI-Systeme: Ein Modell, dessen Entscheidungen nicht nachvollziehbar sind, kann nicht sinnvoll überwacht, debuggt oder verbessert werden. In regulierten Branchen ist Transparenz keine Option, sondern eine rechtliche Anforderung – der EU AI Act klassifiziert intransparente Hochrisiko-Systeme explizit als nicht konform.
Transparenz-Spektrum nach Modellkomplexität
Vollständig transparent
Lineare Regression, Entscheidungsbaum – jede Entscheidung direkt lesbar
Teilweise transparent
Random Forest, Gradient Boosting – Feature Importance sichtbar, Einzelentscheidungen nicht
Black Box + XAI
Neuronales Netz + SHAP/LIME – post-hoc erklärbar, aber nicht inhärent transparent
Black Box
Großes LLM ohne Erklärungsschicht – Entscheidungsweg nicht rekonstruierbar
Transparenz als Designentscheidung
Modelltransparenz ist keine nachträgliche Compliance-Aufgabe, sondern eine Designentscheidung am Anfang des ML-Projekts: Welche Transparenzanforderungen hat der Anwendungsfall? Ein Spam-Filter braucht weniger Transparenz als ein Kreditentscheidungsmodell. Ein internes Prognose-Tool braucht weniger als ein System, das Mitarbeiter bewertet. Die Entscheidung für ein Black-Box-Modell sollte bewusst getroffen werden – mit einem Plan für Post-hoc-Erklärbarkeit (XAI) dort, wo Erklärungen gebraucht werden.
Praxisbeispiel
Ein Pharmaunternehmen setzt KI für zwei sehr verschiedene Aufgaben ein. Aufgabe A: Lagernachbestellprognose – ein komplexes Gradient-Boosting-Modell ohne detaillierte Erklärbarkeit. Akzeptabel, weil: Die Entscheidungen haben geringe Auswirkungen auf Personen, sind leicht reversibel, und Feature Importance liefert ausreichend Orientierung für das Team. Aufgabe B: Bewerberselektion für ein internes Karriereprogramm – hier wird bewusst ein transparenter Entscheidungsbaum statt eines Black-Box-Modells gewählt. Geringere Vorhersagegenauigkeit wird zugunsten von Transparenz und Fairness-Überprüfbarkeit akzeptiert. Jede Auswahlentscheidung kann dem Bewerber in maximal 3 Wenn-Dann-Schritten erklärt werden. Bewusster Trade-off: Modellkomplexität gegen Transparenz – je nach Risikoprofil der Anwendung.
