Overfitting

Overfitting – Überanpassung – bezeichnet das Phänomen, bei dem ein Machine-Learning-Modell die Trainingsdaten zu gut „auswendig lernt“ – inklusive ihrer zufälligen Rauscheffekte und Besonderheiten – und dadurch seine Fähigkeit verliert, auf neue, bisher ungesehene Daten korrekte Vorhersagen zu treffen. Ein overfittetes Modell erzielt auf den Trainingsdaten exzellente Ergebnisse, scheitert aber bei realen Produktionsdaten, weil es Muster gelernt hat, die nur in den Trainingsdaten existieren, nicht in der allgemeinen Realität.

Overfitting ist das häufigste und tückischste Problem beim ML-Training: Das Modell erscheint während des Trainings hervorragend zu funktionieren, zeigt seinen wahren Schwächen aber erst in der Produktion. Daher ist die Evaluation auf einem separaten Test-Datensatz (der nie beim Training verwendet wurde) unverzichtbar – sie ist der einzige verlässliche Indikator, ob das Modell wirklich gelernt oder nur auswendig gelernt hat.

Das Spektrum: Underfitting – Gut – Overfitting

Underfitting

Modell zu einfach – lernt weder Trainingsdaten noch neue Daten gut. Sowohl Training als auch Test-Fehler sind hoch.

Gut kalibriert

Modell generalisiert – lernt echte Muster. Training- und Test-Fehler sind ähnlich niedrig. Ziel jedes ML-Projekts.

Overfitting

Modell zu komplex – lernt Rauschen. Trainingsfehler sehr niedrig, Test-Fehler deutlich höher. In Produktion unbrauchbar.

Overfitting verhindern

• Mehr Trainingsdaten: Mehr Daten machen es schwieriger, Rauschen auszuwendig zu lernen – das häufigste und effektivste Mittel
• Regularisierung: Mathematische Strafen für zu komplexe Modelle (L1/L2-Regularisierung) reduzieren Overfitting direkt
• Kreuzvalidierung: Modell wird auf mehreren verschiedenen Datenteilungen evaluiert – gibt ein zuverlässigeres Bild der echten Generalisierungsfähigkeit
• Early Stopping: Training wird beendet, wenn die Leistung auf einem Validierungs-Datensatz nicht mehr besser wird – verhindert, dass das Modell zu lange trainiert
• Modellkomplexität reduzieren: Einfachere Modelle overfiten weniger – oft ist das einfachere Modell das bessere Modell
• Dropout (bei Neuronalen Netzen): Zufällig Neuronen beim Training deaktivieren – verhindert, dass das Netz zu sehr auf einzelne Neuronen-Verbindungen vertraut

Die einfachste Regel gegen Overfitting: Evaluiere immer auf Daten, die das Modell nie gesehen hat. Nie die Testdaten für Trainingsentscheidungen nutzen. Nie auf den Testdaten iterieren. Ein Modell, das auf den Testdaten gut aussieht, weil es darauf optimiert wurde, ist in der Produktion genauso overfitted wie eines, das auf den Trainingsdaten optimiert wurde.

Praxisbeispiel

Ein Data Scientist trainiert ein Neuronales Netz zur Dokumentenklassifikation. Auf dem Trainings-Datensatz (5.000 Dokumente): 99,2 Prozent Accuracy. Auf dem Test-Datensatz (500 neue Dokumente): 71,4 Prozent Accuracy. Diagnose: klassisches Overfitting – das Modell hat die 5.000 Trainingsdokumente nahezu auswendig gelernt. Maßnahmen: Dropout-Schichten im Netz ergänzt. L2-Regularisierung hinzugefügt. Early Stopping aktiviert. Datenaugmentation (leichte Textmodifikationen) für mehr effektive Trainingsdaten. Ergebnis nach Anpassung: Trainings-Accuracy 89,1 Prozent (gesunken), Test-Accuracy 86,3 Prozent (stark gestiegen). Die kleinere Lücke zwischen Training und Test ist das Zeichen, dass das Modell nun generalisiert statt auswendig gelernt hat.