---
term: "Model Cascading"
slug: "model-cascading"
glossar_id: "G275"
variants: []
category: "agenten-tools-und-orchestrierung"
marker: ""
short: "Gestufter Einsatz unterschiedlich geeigneter oder aufwendiger Modelle."
sources:
  - label: "Chen et al.: FrugalGPT"
    url: "https://arxiv.org/abs/2305.05176"
  - label: "Anthropic: Building effective agents"
    url: "https://www.anthropic.com/engineering/building-effective-agents"
status: "entwurf"
updated: "2026-09-21"
---

Model Cascading heißt, eine Anfrage zuerst an ein günstiges Modell zu geben und nur dann an ein stärkeres weiterzureichen, wenn das Ergebnis nicht ausreicht. Der Ansatz stammt aus der Arbeit an den Kosten von Modellaufrufen und steht dort neben zwei anderen Strategien, der Anpassung des Prompts und dem Ersatz durch günstigere Näherungen. [Chen et al.: FrugalGPT](https://arxiv.org/abs/2305.05176)

## Der Knackpunkt ist die Abbruchentscheidung

Eine Kaskade braucht ein Urteil darüber, ob die erste Antwort genügt. Dafür kommen mehrere Wege infrage: ein Prüfschritt, ein Vergleich mit erwarteten Formen, ein Schwellenwert oder eine gelernte Entscheidung. Fällt dieses Urteil schlecht aus, wird entweder zu oft eskaliert, dann spart die Kaskade nichts, oder zu selten, dann sinkt die Qualität.

In der zitierten Arbeit erreicht eine gelernte Kaskade in den untersuchten Aufgaben die Leistung des besten Einzelmodells bei deutlich geringeren Kosten. Das ist ein Ergebnis für diese Aufgaben, keine allgemeine Zusage.

## So kannst du dir das vorstellen

Eine Kaskade arbeitet wie der Instanzenweg: erst die einfache Stelle, und nur was dort nicht gelöst wird, geht weiter nach oben. Der Aufwand steigt mit jeder Stufe, die meisten Fälle enden vorher. Das Bild erklärt die Staffelung, es sagt nichts über die Trefferquote der ersten Stufe.

## Was es in der Praxis bedeutet

Eine Kaskade lohnt sich, wo viele gleichartige Anfragen anfallen und sich die Qualität einer Antwort maschinell einschätzen lässt, etwa an einer Formatvorgabe oder an einem Testlauf. Wo diese Prüfung fehlt, wird die Kaskade zum Ratespiel.

Zu rechnen ist außerdem mit der Verzögerung. Ein eskalierter Fall durchläuft zwei Modelle nacheinander und dauert länger als der direkte Weg zum starken Modell. Für interaktive Anwendungen kann das teurer sein als die gesparten Tokens.

## Wo es verwechselt wird

Routing entscheidet vorher und einmal, die Kaskade entscheidet hinterher und mehrfach. Und ein Prüfschritt allein ist noch keine Kaskade, solange es keine stärkere Stufe gibt, an die er abgibt.

## Verwandte Begriffe

**Model Routing**, **Evaluator Agent**, **Orchestration**, **Workflow**, **Latency**.