---
term: "Time to First Token"
slug: "time-to-first-token"
glossar_id: "G385"
variants: ["TTFT"]
category: "inferenzoptimierung-serving-und-leistungskennzahlen"
marker: ""
short: "Zeit bis zum ersten ausgegebenen Token."
sources:
  - label: "Zhong et al.: DistServe"
    url: "https://arxiv.org/abs/2401.09670"
  - label: "Agrawal et al.: Taming Throughput-Latency Tradeoff with Sarathi-Serve"
    url: "https://arxiv.org/abs/2403.02310"
status: "entwurf"
updated: "2026-09-21"
---

Time to First Token, abgekürzt TTFT, ist die Zeit von der Anfrage bis zum ersten ausgegebenen Token. Sie gehört zu den beiden Kennzahlen, an denen Serving-Systeme gemessen werden, und bezieht sich auf die erste Phase der Verarbeitung, in der der gesamte Prompt eingelesen wird. [Zhong et al.: DistServe](https://arxiv.org/abs/2401.09670)

## Die Zahl hängt an der Eingabelänge und an der Last

Zwei Dinge treiben diesen Wert. Erstens die Länge des Prompts: Je mehr Tokens verarbeitet werden müssen, desto länger dauert es bis zum ersten Zeichen. Zweitens die Auslastung: Wenn andere Anfragen laufen, wartet die eigene, und gerade lange Eingaben anderer Nutzer können die eigene Wartezeit spürbar verlängern. [Agrawal et al.](https://arxiv.org/abs/2403.02310)

Für die gefühlte Geschwindigkeit ist diese Kennzahl oft wichtiger als die Gesamtdauer, weil sie bestimmt, wie lange eine Oberfläche leer bleibt.

## So kannst du dir das vorstellen

Die Zeit, bis der Kellner nach der Bestellung das erste Mal etwas bringt. Ob das Essen danach schnell kommt, ist eine andere Frage, aber die erste Wartezeit prägt den Eindruck. Das Bild erklärt die Wirkung auf die Wahrnehmung.

## Was es in der Praxis bedeutet

In Anwendungen lohnt sich das Streamen der Antwort, damit diese Zahl überhaupt sichtbar wird, und eine sichtbare Rückmeldung, solange noch nichts da ist.

Senken lässt sie sich vor allem über den Prompt: kürzere Eingaben, gezielt ausgewählte Abschnitte statt ganzer Dokumente und die Wiederverwendung gleichbleibender Anfänge über einen Zwischenspeicher. Beim Messen gehört neben dem Mittelwert auch der ungünstige Fall betrachtet, denn dort entsteht der Ärger.

## Wo es verwechselt wird

TTFT ist nicht die Gesamtantwortzeit: Eine schnelle erste Reaktion kann von einer langen Ausgabe gefolgt sein. Und sie ist keine Eigenschaft des Modells allein, sondern hängt an Prompt, Server und Last.

## Verwandte Begriffe

**Prefill**, **Latency**, **Inter-Token Latency**, **Prompt Caching**, **Concurrency**, **Disaggregated Serving**.