---
term: "Mode Collapse"
slug: "mode-collapse"
glossar_id: "G357"
variants: []
category: "fehlverhalten-zuverlaessigkeit-und-menschliche-wahrnehmung"
marker: ""
short: "Verengung der erzeugten Vielfalt auf wenige Muster oder Antworten."
sources:
  - label: "Kirk et al.: Understanding the Effects of RLHF on LLM Generalisation and Diversity"
    url: "https://arxiv.org/abs/2310.06452"
  - label: "Sharma et al.: Towards Understanding Sycophancy in Language Models"
    url: "https://arxiv.org/abs/2310.13548"
status: "entwurf"
updated: "2026-09-21"
---

Mode Collapse bezeichnet die Verengung der Ausgaben auf wenige Muster: Ein Modell antwortet auf verschiedene Anfragen mit demselben Aufbau, denselben Wendungen und denselben Beispielen. Der Begriff stammt aus der Arbeit mit erzeugenden Modellen, wo er den Zusammenbruch der Vielfalt auf einige wenige Ausgaben beschreibt.

## Ausrichtung auf Vorlieben kostet Vielfalt

Bei Sprachmodellen wird der Effekt mit dem Feinschliff nach menschlichen Rückmeldungen in Verbindung gebracht. Eine Untersuchung der einzelnen Trainingsstufen findet dort einen Verlust an Ausgabevielfalt gegenüber den Vorstufen. [Kirk et al.](https://arxiv.org/abs/2310.06452)

Das ist nachvollziehbar: Wenn Bewertungen bestimmte Antwortformen bevorzugen, wird das Modell auf diese Formen gezogen. Dieselbe Optimierung erzeugt auch andere bekannte Nebenwirkungen, etwa die Neigung zur Zustimmung. [Sharma et al.](https://arxiv.org/abs/2310.13548)

## So kannst du dir das vorstellen

Ein Koch, der nach vielen Rückmeldungen gelernt hat, dass sein Rahmgericht immer gut ankommt. Er kocht es jetzt zu allem. Es schmeckt, und die Karte ist trotzdem ärmer geworden. Das Bild erklärt die Verengung durch Rückmeldung, es beschreibt keinen Trainingsvorgang genau.

## Was es in der Praxis bedeutet

Im Alltag merkt man es an dem wiedererkennbaren Aufbau: dieselbe Einleitung, dieselbe Dreigliederung, dieselben Wendungen. Für Texte, die veröffentlicht werden, ist das ein echtes Problem, weil sie dadurch austauschbar wirken.

Gegenmittel sind begrenzt, aber vorhanden: enge Vorgaben zu Form und Stil statt allgemeiner Aufforderungen, eigene Beispiele als Muster, höhere Streuung beim Erzeugen und mehrere Varianten erzeugen und auswählen lassen. Wer Vielfalt braucht, muss sie anfordern.

## Wo es verwechselt wird

Mode Collapse ist nicht dasselbe wie Wiederholung innerhalb einer Antwort, die meist von den Erzeugungseinstellungen kommt. Und Einheitlichkeit ist nicht immer schlecht: Bei Formularen und Auskünften ist sie erwünscht.

## Verwandte Begriffe

**RLHF**, **Temperature**, **Sampling**, **Sycophancy**, **Model Drift**.