---
term: "Mechanistic Interpretability"
slug: "mechanistic-interpretability"
glossar_id: "G533"
variants: []
category: "interpretierbarkeit-und-fortgeschrittene-alignment-risiken"
marker: "Technik"
short: "Untersuchung der tatsächlichen internen Berechnungsmechanismen eines Modells."
sources:
  - label: "Elhage et al.: A Mathematical Framework for Transformer Circuits"
    url: "https://transformer-circuits.pub/2021/framework/index.html"
  - label: "Olah et al.: Zoom In, An Introduction to Circuits"
    url: "https://distill.pub/2020/circuits/zoom-in/"
status: "entwurf"
updated: "2026-09-21"
---

Mechanistische Interpretierbarkeit versucht, neuronale Netze wie Programme zu lesen: Welche Komponenten rechnen was, wie wirken sie zusammen, und lässt sich der Weg von der Eingabe zur Ausgabe als Mechanismus beschreiben. Das Vorbild ist das Reverse Engineering von Software. [Olah et al.](https://distill.pub/2020/circuits/zoom-in/)

## Das Modell wird in nachvollziehbare Teile zerlegt

Grundlage ist eine mathematische Zerlegung der Architektur in Teile, deren Beitrag sich einzeln betrachten lässt. Für Transformer wurde gezeigt, dass sich bestimmte Aufmerksamkeitsmechanismen als klar beschreibbare Operationen deuten lassen, etwa das Kopieren eines Musters aus dem bisherigen Text. [Elhage et al.](https://transformer-circuits.pub/2021/framework/index.html)

Der Anspruch geht über das Erklären einzelner Entscheidungen hinaus. Ziel ist ein Verständnis, das Vorhersagen erlaubt: Wenn man weiß, welcher Mechanismus ein Verhalten erzeugt, sollte sich vorhersagen lassen, wann es auftritt und wie es sich gezielt verändern lässt.

## So kannst du dir das vorstellen

Ein Gerät ohne Bauplan aufschrauben und die Schaltung nachzeichnen, bis klar ist, welches Bauteil welche Funktion hat. Das dauert lange und liefert eine andere Art von Wissen als eine Bedienungsanleitung. Das Bild erklärt die Arbeitsweise, es setzt Modelle nicht mit Schaltungen gleich.

## Was es in der Praxis konkret bedeutet

Im Alltag begegnet dir dieses Feld als Grundlage von Sicherheitsaussagen. Wenn ein Anbieter berichtet, er habe eine unerwünschte Verhaltensneigung im Modell gefunden und abgeschwächt, stammt die Methode meist von hier. Für eigene Anwendungen ist das Feld noch zu jung, um Werkzeuge daraus zu ziehen, die Ergebnisse helfen aber beim Verständnis, warum Prompts unzuverlässig wirken können.

## Wo es verwechselt wird

Ein Modell erklären zu können heißt nicht, es kontrollieren zu können. Und die Forschung arbeitet überwiegend an kleinen Modellen oder einzelnen Schichten, nicht am vollständigen Verständnis großer Systeme.

## Verwandte Begriffe

**Explainable AI**, **Circuit**, **Feature**, **Activation**, **Sparse Autoencoder**, **Activation Patching**.