---
term: "Attention Mask"
slug: "attention-mask"
glossar_id: "G049"
variants: ["Attention-Maske","attention_mask"]
category: "tokens-tokenisierung-und-nachrichtenformat"
marker: "Technik"
short: "Kennzeichnung, welche Positionen berücksichtigt oder ausgeblendet werden."
sources:
  - label: "Hugging Face"
    url: "https://huggingface.co/docs/transformers/en/glossary"
  - label: "Hugging Face"
    url: "https://huggingface.co/docs/transformers/en/attention_interface"
status: "entwurf"
updated: "2026-09-20"
---

Eine Attention Mask legt fest, welche Positionen bei der Attention berücksichtigt werden dürfen. Bei Tokenizer-Ausgaben dient sie häufig dazu, echte Eingabetokens von Padding-Positionen zu unterscheiden, die nur zum Auffüllen kurzer Texte eingefügt wurden. ([Hugging Face](https://huggingface.co/docs/transformers/en/glossary)) Der Begriff umfasst außerdem komplexere Maskierungen, etwa die Beschränkung auf vorherige Positionen bei kausaler Attention. ([Hugging Face](https://huggingface.co/docs/transformers/en/attention_interface))

## So kannst du dir das vorstellen

Du bekommst eine Tabelle mit ausgefüllten Zeilen und einigen Platzhalterzeilen. Eine zusätzliche Spalte sagt dir, welche Zeilen zur eigentlichen Auswertung gehören. So musst du nicht bei jedem Platzhalter raten, ob er Inhalt oder Füllmaterial ist.

Diese Zusatzspalte entspricht im Bild der Padding-Maske. Für ein Sprachmodell wird sie als technische Eingabe mitgegeben. ([Hugging Face](https://huggingface.co/docs/transformers/en/glossary))

## Eins und Null sind eine Konvention

Im dokumentierten BERT-Beispiel bedeutet `1`, dass ein Token berücksichtigt werden soll, und `0`, dass die Position aufgefüllt wurde. ([Hugging Face](https://huggingface.co/docs/transformers/en/glossary)) Für das frei gewählte Schema „vier Inhaltstokens, zwei Füllpositionen“ ergibt sich entsprechend:

```text
Positionen: Inhalt Inhalt Inhalt Inhalt PAD PAD
Maske:         1      1      1      1    0   0
```

Andere Maskenformate arbeiten anders: Bei einer additiven Float-Maske kann `0.0` eine erlaubte Verbindung bedeuten und negativ unendlich eine gesperrte. ([Hugging Face](https://huggingface.co/docs/transformers/en/attention_interface)) Deshalb sollte man Zahlenwerte nie ohne die jeweilige Schnittstellendefinition interpretieren.

## Padding-Maske und kausale Maske

Eine Padding-Maske blendet Füllpositionen aus; eine kausale Maske beschränkt den Zugriff so, dass ein Token sich selbst und frühere Positionen berücksichtigen kann. ([Hugging Face](https://huggingface.co/docs/transformers/en/glossary), [Attention-Backends](https://huggingface.co/docs/transformers/en/attention_interface)) Die beiden Regeln können in der Modellverarbeitung zusammenwirken. ([Hugging Face](https://huggingface.co/docs/transformers/en/attention_interface))

Eine Maske ist damit auch kein gemessener Aufmerksamkeitswert. Sie beschreibt erlaubte beziehungsweise gesperrte Verbindungen, während die tatsächlichen Attention-Werte innerhalb dieser Vorgaben berechnet werden. ([Hugging Face](https://huggingface.co/docs/transformers/en/attention_interface))

## Verwandte Begriffe

**PAD**, **Attention**, **Self-Attention** und **Causal Attention** führen zu den beteiligten Mechanismen. **Position IDs** behandelt eine andere Art von Zusatzinformation zur Eingabe.
