---
term: "RadixAttention"
slug: "radixattention"
glossar_id: "G377"
variants: []
category: "inferenzoptimierung-serving-und-leistungskennzahlen"
marker: "Technik"
short: "Prefixbaumgestützte Wiederverwendung von KV-Cache-Inhalten."
sources:
  - label: "Zheng et al.: SGLang"
    url: "https://arxiv.org/abs/2312.07104"
  - label: "Kwon et al.: Efficient Memory Management for LLM Serving with PagedAttention"
    url: "https://arxiv.org/abs/2309.06180"
status: "entwurf"
updated: "2026-09-21"
---

RadixAttention verwaltet die zwischengespeicherten Aufmerksamkeitswerte in einem Präfixbaum, damit sich gemeinsame Anfänge mehrerer Anfragen automatisch wiederverwenden lassen. Vorgestellt wurde das Verfahren als Teil eines Systems für Programme, die viele zusammenhängende Modellaufrufe machen. [Zheng et al.: SGLang](https://arxiv.org/abs/2312.07104)

## Viele Aufrufe teilen sich denselben Anfang

Der Anlass sind Anwendungen, die nicht eine Frage stellen, sondern viele: Agenten mit mehreren Schritten, Abläufe mit Verzweigungen, Auswertungen über eine Liste von Fällen. Diese Aufrufe teilen sich häufig eine lange Systemanweisung, dieselben Beispiele oder dasselbe Dokument.

Ein Baum über die bisherigen Präfixe erlaubt, den passenden gespeicherten Teil zu finden und weiterzubenutzen, statt ihn neu zu berechnen. Dass die Blöcke des Zwischenspeichers zwischen Anfragen geteilt werden können, ist dabei die Voraussetzung. [Kwon et al.](https://arxiv.org/abs/2309.06180)

## So kannst du dir das vorstellen

Eine Kanzlei mit vielen Vorgängen zum selben Mandanten. Die Grundakte wird einmal angelegt und von allen Vorgängen mitbenutzt, nur die Besonderheiten kommen je Vorgang dazu. Das Bild erklärt die gemeinsame Nutzung, nicht den Aufbau des Baums.

## Was es in der Praxis bedeutet

Wer eigene Modelle für Agenten oder Auswertungen betreibt, gewinnt hier am meisten, und zwar ohne Änderung an den Prompts. Der Nutzen steigt, je länger der gemeinsame Anfang und je mehr Aufrufe darauf aufbauen.

Beim Bauen der Prompts gilt dieselbe Regel wie beim Zwischenspeichern bei Anbietern: gleichbleibende Teile nach vorn, Variables ans Ende. Ein Zeitstempel oder eine Fallnummer ganz oben macht jede Wiederverwendung unmöglich.

## Wo es verwechselt wird

RadixAttention ist keine eigene Art von Aufmerksamkeit, sondern eine Verwaltung des Zwischenspeichers, und damit näher an PagedAttention als an FlashAttention. Und sie wirkt nur bei gemeinsamen Präfixen, nicht bei inhaltlich ähnlichen Anfragen.

## Verwandte Begriffe

**Prompt Caching**, **KV Cache**, **PagedAttention**, **Model Serving**, **Prefill**.