Training, Daten und Modellanpassung
Underfitting
Heißt auch Unteranpassung.
Unzureichendes Erfassen der relevanten Muster im Datensatz.
Underfitting oder Unteranpassung bedeutet, dass ein Modell die relevanten Muster seiner Trainingsdaten nicht ausreichend erfasst. (Google ML Glossary) Dadurch bleibt seine Vorhersageleistung bereits auf der zu lernenden Aufgabe unzureichend. (Google ML Glossary)
So kannst du dir das vorstellen
Stell dir vor, du möchtest Lieferverzögerungen aus verschiedenen Angaben vorhersagen. Dein Ansatz berücksichtigt aber lediglich den Wochentag und ignoriert im Beispiel Lagerbestand, Versandart und Zielregion.
Wenn diese ausgelassenen Angaben für die Aufgabe wichtig sind, wäre die gewählte Beschreibung zu grob. Mehr Wiederholungen desselben unzureichenden Lernproblems würden die fehlenden Informationen nicht einfach ersetzen.
Mehrere Ursachen sind möglich
Als mögliche Ursachen gelten unter anderem ungeeignete Eingabemerkmale, zu wenige Trainingsepochen, eine zu niedrige Lernrate, zu starke Regularisierung und unzureichende Modellkapazität. (Google ML Glossary) Underfitting ist deshalb nicht gleichbedeutend mit „das Modell ist zu klein“.
Die Gegenmaßnahmen hängen davon ab, welche Begrenzung tatsächlich vorliegt. Prüfe zuerst, ob Eingaben und Zielwerte zusammenpassen und ob das Modell während des Trainings überhaupt messbar besser wird.
Vom Overfitting unterscheiden
Bei Overfitting passt ein Modell die Trainingsbeispiele zu genau an und überträgt das Gelernte schlecht auf neue Daten. (Google ML Glossary) Bei Underfitting wird die relevante Struktur des Trainingsproblems noch nicht ausreichend abgebildet. (Google ML Glossary)
Für eine Diagnose würde ich deshalb Trainings- und Validierungsverlauf zusammen betrachten und einzelne Fehlerfälle lesen. Ändere anschließend gezielt eine begründete Ursache, statt gleichzeitig Modellgröße, Daten, Lernrate und Trainingsdauer zu wechseln.
Ein schwacher Ausgangswert allein sagt noch nicht, welche Reparatur hilft. Wichtig ist ein nachvollziehbarer Vergleich, der zeigt, ob die gewählte Änderung das Lernen verbessert und ob der Vorteil auch auf getrennten Prüfbeispielen bestehen bleibt.
Verwandte Begriffe
Weiterführend sind Overfitting, Learning Rate, Epoch, Regularization und Generalization.