Automatisierte Entscheidungen (Automated Decision-Making, ADM) bezeichnen Entscheidungen, die von einem System – auf Basis von Regeln, Algorithmen oder KI-Modellen – ohne menschliches Eingreifen getroffen werden. Das System nimmt Eingabedaten entgegen, bewertet sie nach definierten Kriterien und produziert eine Entscheidung oder Handlungsempfehlung: Kredit gewähren oder ablehnen, Versicherungsantrag annehmen, Preis festlegen, Supportticket priorisieren, Transaktion blockieren.
Automatisierte Entscheidungen sind das Kernversprechen von Dunkelverarbeitung und Straight-Through-Processing: Vorgänge laufen komplett durch ein System, ohne dass ein Mensch jeweils individuell entscheidet. Je besser das Entscheidungsmodell, desto höher der Anteil automatisierter Entscheidungen – und desto geringer der manuelle Aufwand.
Automatisierungsstufen von Entscheidungen
Stufe 1 Manuelle Entscheidung: Mensch erhält alle Informationen und entscheidet vollständig selbst – kein Systemeingriff
Stufe 2 Systemunterstützte Entscheidung: System bereitet Daten auf und gibt Empfehlung – Mensch entscheidet mit Unterstützung
Stufe 3 Mensch-im-Loop: System entscheidet automatisch, Mensch kann innerhalb eines Zeitfensters eingreifen oder übersteuern
Stufe 4 Vollautomatisch mit Eskalation: System entscheidet autonom, bei Grenzfällen oder Ausnahmen wird eskaliert
Stufe 5 Vollständig autonom: System entscheidet ohne jede Möglichkeit menschlicher Einflussnahme – nur bei unkritischen Routineentscheidungen sinnvoll
Rechtliche Dimension: Automatisierte Entscheidungen und DSGVO
Die DSGVO (Datenschutz-Grundverordnung) enthält in Artikel 22 spezifische Regelungen für automatisierte Entscheidungen, die eine Person erheblich beeinflussen: Betroffene Personen haben das Recht, nicht ausschließlich einer automatisierten Entscheidung unterworfen zu werden, wenn diese erhebliche Auswirkungen auf sie hat – zum Beispiel bei Kreditvergabe, Versicherungsannahme oder Stellenbewerbung. Sie haben außerdem das Recht auf Erklärung der Entscheidungslogik und auf eine menschliche Überprüfung. Automatisierte Entscheidungssysteme müssen daher dokumentiert, erklärbar und mit Widerspruchsmöglichkeiten ausgestattet sein.
Praxisbeispiel
Ein Online-Kreditanbieter automatisiert seine Kreditentscheidung für Kleinkredite bis 5.000 Euro. Stufe 4 des Entscheidungsmodells: Das System prüft Schufa-Score, Einkommensnachweise, Kontoauszüge (per Open Banking) und Beschäftigungsstatus vollautomatisch. Klare Genehmigung (Score über Schwellenwert, alle Prüfungen bestanden): Automatische Zusage in 90 Sekunden. Klare Ablehnung (Score unter kritischem Schwellenwert): Automatische Ablehnung mit regulatorisch geforderter Begründung. Grenzfall (Score im mittleren Bereich): Eskalation an Kreditsachbearbeiter mit vollständig aufbereiteter Entscheidungsgrundlage. DSGVO-konform: Jeder Antragsteller wird informiert, dass eine automatisierte Vorprüfung stattfindet, und kann menschliche Überprüfung anfordern.
