Underfitting – Unteranpassung – bezeichnet das Gegenteil von Overfitting: Ein Modell ist zu einfach, um die tatsächlichen Muster in den Daten zu erfassen. Es lernt weder die Trainingsdaten gut genug noch generalisiert es auf neue Daten. Sowohl der Fehler auf den Trainingsdaten als auch der Fehler auf den Testdaten sind hoch – das Modell ist schlicht zu schwach für die Komplexität der Aufgabe.
Underfitting ist leichter zu diagnostizieren als Overfitting: Wenn ein Modell schon auf den Trainingsdaten schlechte Ergebnisse liefert, muss es zunächst komplexer werden, bevor Generalisierung überhaupt ein Thema ist. Es ist der Startpunkt beim Modellaufbau, nicht das Ziel – aber ein Modell, das in Produktion geht, ohne dass Underfitting ausgeschlossen wurde, liefert vorhersehbar schlechte Ergebnisse.
Das Bias-Varianz-Spektrum
Underfitting
Zu simples Modell. Hoher Trainingsfehler, hoher Testfehler. Lernt keine Muster. Hoher Bias, niedrige Varianz.
Gut kalibriert
Komplexität passt zur Aufgabe. Niedriger Trainingsfehler, ähnlich niedriger Testfehler. Ziel des Modellbaus.
Overfitting
Zu komplexes Modell. Sehr niedriger Trainingsfehler, hoher Testfehler. Lernt Rauschen. Niedriger Bias, hohe Varianz.
Typische Ursachen für Underfitting
Modell zu simpel
Lineares Modell für eine nichtlineare Aufgabe. Zu wenige Parameter oder Schichten, um die Komplexität der Daten abzubilden.
Zu wenig Training
Modell wurde zu früh gestoppt, bevor es die Trainingsdaten ausreichend gelernt hat. Early Stopping zu aggressiv eingestellt.
Zu starke Regularisierung
Regularisierungsparameter so hoch, dass das Modell nicht genug Spielraum hat, um echte Muster zu lernen.
Schlechte Features
Die eingesetzten Eingabemerkmale enthalten nicht genug Information, um die Zielvariable vorherzusagen. Feature Engineering nötig.
Underfitting beheben
- Komplexeres Modell wählen: Von linearer Regression zu Random Forest oder Gradient Boosting wechseln – mehr Ausdrucksstärke ermöglichen
- Mehr Features ergänzen: Zusätzliche Merkmale hinzufügen, die relevante Information über die Zielvariable enthalten
- Feature Engineering: Bestehende Features transformieren oder kombinieren – Polynomterme, Interaktionsvariablen, Domänenwissen einbringen
- Regularisierung reduzieren: Weniger Strafterm auf Modellkomplexität zulassen, damit das Modell mehr Spielraum hat
- Länger trainieren: Bei Neuronalen Netzen mehr Epochen zulassen, bevor Early Stopping greift
Underfitting vs. Overfitting: die Diagnose
Die einfachste Diagnose: Trainingsfehler hoch → Underfitting. Trainingsfehler niedrig, Testfehler hoch → Overfitting. Beide niedrig → gut kalibriert. Immer zuerst Underfitting ausschließen, bevor Overfitting-Gegenmaßnahmen ergriffen werden – die Lösungen sind entgegengesetzt: Underfitting erfordert mehr Komplexität, Overfitting weniger.
Praxisbeispiel
Ein Team trainiert ein Modell zur Vorhersage des Lieferverzugs. Erste Version: Lineare Regression mit 3 Features (Entfernung, Gewicht, Wochentag). Trainingsfehler MAE: 4,2 Tage. Testfehler MAE: 4,4 Tage. Diagnose: klares Underfitting – Trainingsfehler bereits hoch, kein Overfit-Signal. Lösung: Feature Engineering (Saisonalität, Lieferant-Kategorie, Wetterdaten ergänzt), Modellwechsel auf Gradient Boosting. Neuer Trainingsfehler: 1,1 Tage. Testfehler: 1,4 Tage. Noch immer leichtes Underfitting – weiteres Feature Engineering mit historischer Lieferanten-Performance bringt Trainingsfehler auf 0,7 und Testfehler auf 0,9 Tage. Gut kalibriert und produktionstauglich.
