---
term: "Polysemanticity"
slug: "polysemanticity"
glossar_id: "G538"
variants: []
category: "interpretierbarkeit-und-fortgeschrittene-alignment-risiken"
marker: "Technik"
short: "Eine Einheit reagiert auf mehrere verschiedenartige Konzepte."
sources:
  - label: "Bricken et al.: Towards Monosemanticity"
    url: "https://transformer-circuits.pub/2023/monosemantic-features/index.html"
  - label: "Elhage et al.: Toy Models of Superposition"
    url: "https://transformer-circuits.pub/2022/toy_model/index.html"
status: "entwurf"
updated: "2026-09-21"
---

Polysemantisch heißt eine Einheit, die auf Dinge reagiert, die nichts miteinander zu tun haben. In einem untersuchten Sprachmodell antwortete ein einzelnes Neuron auf akademische Zitate, englischen Dialog, HTTP-Anfragen und koreanischen Text zugleich. In einem Bildmodell reagierte eine Einheit auf Katzengesichter und Autofronten. [Bricken et al.](https://transformer-circuits.pub/2023/monosemantic-features/index.html)

## Damit fällt die naheliegende Untersuchungseinheit aus

Solange man hoffte, jedes Neuron stehe für ein Konzept, schien die Analyse eines Modells machbar: Einheiten durchgehen, benennen, fertig. Polysemantie macht das unmöglich, denn eine Einheit mit vier unzusammenhängenden Bedeutungen lässt sich nicht sinnvoll beschriften.

Als Erklärung gilt Superposition: Weil das Modell mehr Merkmale darstellt, als es Einheiten hat, teilen sich mehrere Merkmale dieselben Einheiten. [Elhage et al.](https://transformer-circuits.pub/2022/toy_model/index.html) Die Folgerung daraus hat das Feld verändert: Nicht Neuronen sind die richtige Analyseeinheit, sondern Richtungen im Aktivierungsraum.

## So kannst du dir das vorstellen

Eine Taste auf einer alten Fernbedienung, die je nach Gerätezustand etwas anderes auslöst. Man kann sie nicht sinnvoll beschriften, ohne den Zustand zu kennen. Das Bild erklärt das Beschriftungsproblem, es beschreibt keinen konkreten Mechanismus.

## Was es in der Praxis konkret bedeutet

Sei vorsichtig bei Aussagen der Form „das Modell hat ein Neuron für X". Solche Zuordnungen stammen fast immer aus einer Zerlegung in Merkmale, nicht aus der Betrachtung einzelner Einheiten. Und für Eingriffe ins Modell folgt daraus, dass gezieltes Verändern einer Einheit Nebenwirkungen an unerwarteter Stelle hat.

## Wo es verwechselt wird

Polysemantie ist keine Mehrdeutigkeit von Wörtern, sondern eine Eigenschaft interner Einheiten. Und sie ist kein Fehler im Modell, sondern eine Folge davon, dass begrenzte Kapazität effizient genutzt wird.

## Verwandte Begriffe

**Monosemanticity**, **Superposition**, **Sparse Autoencoder**, **Feature**, **Activation**, **Mechanistic Interpretability**.