---
term: "Model Head"
slug: "model-head"
glossar_id: "G082"
variants: ["Output Head","Ausgabekopf"]
category: "architektur-und-interne-modellbausteine"
marker: "Technik"
short: "Aufgabenspezifische Abbildung interner Repräsentationen auf Ausgaben."
sources:
  - label: "Hugging Face"
    url: "https://huggingface.co/learn/llm-course/en/chapter2/2"
  - label: "Vaswani et al."
    url: "https://arxiv.org/pdf/1706.03762"
status: "entwurf"
updated: "2026-09-20"
---

Ein Model Head oder Output Head ist der aufgabenspezifische Teil eines Modells, der interne Merkmalsdarstellungen in passende Ausgabewerte übersetzt. ([Hugging Face](https://huggingface.co/learn/llm-course/en/chapter2/2)) Er sitzt auf dem grundlegenden Modellkörper und kann beispielsweise Werte für Klassen, Textpositionen oder das nächste Token erzeugen. ([Hugging Face](https://huggingface.co/learn/llm-course/en/chapter2/2))

## So kannst du dir das vorstellen

Eine Werkstatt kann vorbereitete Bauteile an unterschiedliche Endstationen weitergeben. Eine Station sortiert sie nach Typ, eine andere prüft bestimmte Stellen, eine dritte bereitet die nächste Verarbeitung vor.

So ähnlich macht der Ausgabekopf aus einer internen Arbeitsgrundlage die für eine bestimmte Aufgabe benötigte Ausgabeform. Das Bild soll die Funktion erklären, nicht den Eindruck eines universellen Stecksystems erwecken.

## Die Aufgabe bestimmt die Ausgabeform

Ein Klassifikationskopf kann pro Beispiel einen Wert je Kategorie ausgeben, während ein Tokenklassifikationskopf entsprechende Werte für einzelne Positionen erzeugt. ([Hugging Face](https://huggingface.co/learn/llm-course/en/chapter2/2)) Bei einem Sprachmodell bildet der Ausgabekopf die interne Darstellung auf Werte für den Token-Wortschatz ab. ([Vaswani et al.](https://arxiv.org/pdf/1706.03762))

Diese Rohwerte werden Logits genannt und sind noch keine normalisierten Wahrscheinlichkeiten. ([Hugging Face](https://huggingface.co/learn/llm-course/en/chapter2/2)) Im ursprünglichen Transformer folgt auf die lineare Ausgabeprojektion eine Softmax-Funktion, die daraus die Verteilung für die nächste Tokenvorhersage berechnet. ([Originalarbeit](https://arxiv.org/pdf/1706.03762))

Der Head ist somit nicht unbedingt gleichbedeutend mit allem, was bis zur sichtbaren Antwort geschieht. Für die technische Einordnung lohnt es sich, Rohwerte, Wahrscheinlichkeiten und endgültig ausgegebene Ergebnisse auseinanderzuhalten.

## Nicht mit einem Attention Head verwechseln

Ein Attention Head berechnet innerhalb des Modells eine gewichtete Mischung von Informationen aus zugänglichen Positionen. ([Originalarbeit](https://arxiv.org/pdf/1706.03762)) Ein Model Head übersetzt dagegen die aufbereiteten Merkmale in die Ausgabeform der Zielaufgabe. ([Hugging Face](https://huggingface.co/learn/llm-course/en/chapter2/2))

Die gemeinsame Bezeichnung „Head“ bedeutet deshalb keine gemeinsame Funktion. Wenn du eine Modellbeschreibung liest, prüfe zunächst, ob es um interne Attention-Berechnungen oder um den aufgabenspezifischen Ausgang geht.

## Verwandte Begriffe

Passend sind **Backbone**, **Attention Head**, **Hidden Size**, **Logits**, **Softmax** und **Causal Language Model**.