KI-Risiko bezeichnet die Gesamtheit aller potenziellen negativen Auswirkungen, die aus dem Einsatz von KI-Systemen entstehen können – für Individuen, Unternehmen oder die Gesellschaft. KI-Risiken sind vielschichtig: technische Risiken (Modell liefert falsche Vorhersagen), ethische Risiken (Modell diskriminiert bestimmte Gruppen), rechtliche Risiken (Modell verletzt regulatorische Anforderungen), operative Risiken (Modell-Ausfall unterbricht kritische Prozesse) und strategische Risiken (Abhängigkeit von KI-Systemen ohne Fallback).
Der EU AI Act hat KI-Risiko in ein regulatorisches Klassifizierungssystem übersetzt: Jedes KI-System wird nach seinem Risikopotenzial eingestuft, und die Anforderungen an Transparenz, Dokumentation und Governance steigen mit der Risikokategorie. Für Unternehmen, die KI in Automatisierungsprozessen einsetzen, ist Risikoklassifizierung nicht mehr optional.
Risikoklassen nach EU AI Act
Inakzeptabel Verboten: Social Scoring durch staatliche Stellen, manipulative Systeme, Echtzeit-Biometrische Überwachung im öffentlichen Raum (Ausnahmen), KI zur Ausnutzung von Schwächen
Hohes Risiko Strenge Anforderungen: Kreditvergabe, Personalentscheidungen, kritische Infrastruktur, Medizinprodukte, biometrische Identifikation. Vollständige Dokumentation, XAI, menschliche Aufsicht, Konformitätsbewertung.
Begrenztes Risiko Transparenzpflichten: Chatbots, Deepfakes, generative KI. Nutzer muss wissen, dass er mit KI interagiert. Keine weiteren spezifischen Compliance-Anforderungen.
Minimales Risiko Keine spezifischen Anforderungen: Spam-Filter, Spielempfehlungen, KI in Videospielen. Kann nach bestehenden Gesetzen betrieben werden. Freiwillige Codes of Conduct empfohlen.
KI-Risiken jenseits des EU AI Acts
- Modell-Fehler in kritischen Entscheidungen: Ein Kreditmodell, das systematisch zu optimistische Bewertungen liefert, führt zu Ausfallwellen – wirtschaftlicher Schaden weit über den direkten Kredit hinaus
- Abhängigkeitsrisiko: Wenn automatisierte Prozesse vollständig von einem KI-Modell abhängen und kein manueller Fallback existiert, ist ein Modellausfall ein operationaler Totalausfall
- Reputationsrisiko: Ein diskriminierendes oder fehlerhaftes Modell in der Öffentlichkeit kann massiven Reputationsschaden verursachen – unabhängig von rechtlichen Konsequenzen
- Security-Risiken: Adversarial Attacks – gezielte Manipulation von Eingabedaten, um Modelle zu täuschen – sind für sicherheitskritische Anwendungen ein reales Angriffsszenario
Praxisbeispiel
Eine mittelständische Bank führt eine KI-Risikobewertung aller 8 eingesetzten ML-Modelle durch. Ergebnis: Kreditscoring-Modell (Hohes Risiko): betrifft individuelle Kreditentscheidungen, regulatorisch relevant. Maßnahmen: XAI implementieren, vierteljährliche Fairness-Audits, vollständige Dokumentation, menschliche Übersteuerungsmöglichkeit. Anomalieerkennung für Betrug (Hohes Risiko): betrifft Kontosperrungen. Maßnahmen: Wie Kreditscoring plus spezifisches Alert-Handling für False Positives. Zinsprognose-Modell für internes Treasury (Minimales Risiko): nur interne Entscheidungsunterstützung, kein Personenbezug. Keine zusätzlichen Anforderungen. Spam-Filter für E-Mail (Minimales Risiko): Standardbetrieb. Risikobasierter Ansatz spart Compliance-Aufwand: maximale Anforderungen nur dort, wo das Risiko es rechtfertigt.
