Szene-Slang, Memes und Debattenbegriffe
Stochastic Parrot
Heißt auch Stochastischer Papagei.
Kritische Metapher für Sprachmodelle als statistische Nachahmung ohne Bedeutung.
Stochastischer Papagei ist das bekannteste Schlagwort der KI-Kritik. Es stammt aus einer Arbeit von 2021 und beschreibt ein Sprachmodell als System, das Folgen sprachlicher Formen aus seinen Trainingsdaten zusammennäht, gesteuert von Wahrscheinlichkeiten darüber, was zusammen auftritt, und ohne Bezug auf Bedeutung. Bender et al.
Die Metapher gehört zu einer Argumentation, nicht zu einer Beleidigung
Der Aufsatz führt das Bild ein, um vier Risiken zu begründen: den Energie- und Kostenaufwand großer Modelle, unkontrollierbare Verzerrungen in riesigen Textmengen, den Verlust wissenschaftlicher Sorgfalt und die Gefahr, dass flüssiger Text als Verstehen missgedeutet wird. Der letzte Punkt trägt das Bild: Bedeutung entsteht beim Leser, nicht im Modell.
Widerspruch gibt es reichlich. Gegen die harte Lesart spricht, dass Modelle innere Zustände aufbauen, die mehr sind als Oberflächenstatistik. Ein Modell, das nur Zugfolgen eines Brettspiels sieht, bildet intern ein Abbild des Spielbretts, das sich gezielt verändern lässt und dann die Ausgabe ändert. Li et al.
So kannst du dir das vorstellen
Ein Papagei, der ganze Sätze aus dem Wohnzimmer wiedergibt, und zwar an genau der richtigen Stelle im Gespräch. Wer zuhört, unterstellt ihm Verständnis. Das Bild ist die Kernbehauptung der Kritiker, es ist kein neutraler Befund über die Architektur.
Was es in der Praxis konkret bedeutet
Nimm die Metapher als Arbeitsregel, nicht als Weltbild: Flüssigkeit einer Antwort sagt nichts über ihre Richtigkeit. Plane deshalb bei jedem Einsatz einen Prüfschritt ein, der unabhängig vom Text des Modells funktioniert, etwa ein Abgleich mit der Quelle oder ein Test, der durchläuft oder scheitert.
Wo es verwechselt wird
Die Metapher ist keine Architekturbeschreibung. Wer sie als technische Aussage liest, landet schnell bei der falschen Behauptung, ein Modell schlage Sätze nach. Sie ist außerdem keine Aussage über Nützlichkeit: Auch wer der Kritik folgt, kann das Werkzeug sinnvoll einsetzen.
Verwandte Begriffe
Hallucination, AI Psychosis, Emergent Capabilities, Mechanistic Interpretability, Shoggoth, Large Language Model.