---
term: "Automation Bias"
slug: "automation-bias"
glossar_id: "G362"
variants: []
category: "fehlverhalten-zuverlaessigkeit-und-menschliche-wahrnehmung"
marker: ""
short: "Übermäßiges Vertrauen in automatisierte Empfehlungen."
sources:
  - label: "Goddard et al.: Automation bias, a systematic review"
    url: "https://pmc.ncbi.nlm.nih.gov/articles/PMC3240751/"
  - label: "Dell'Acqua et al.: Navigating the Jagged Technological Frontier"
    url: "https://mitsloan.mit.edu/sites/default/files/2023-10/SSRN-id4573321.pdf"
status: "entwurf"
updated: "2026-09-21"
---

Automation Bias ist die Neigung, Ausgaben eines automatisierten Systems zu übernehmen, statt sie zu prüfen. Eine Übersichtsarbeit aus der Medizininformatik beschreibt zwei Ausprägungen: Fehler durch Befolgen falscher Empfehlungen und Fehler durch Unterlassen, wenn das System nicht darauf hinweist. [Goddard et al.](https://pmc.ncbi.nlm.nih.gov/articles/PMC3240751/)

## Das Problem beginnt bei hoher Zuverlässigkeit

Dieselbe Arbeit nennt den unangenehmen Zusammenhang: Gerade weil Entscheidungsunterstützung meist richtig liegt, verleitet der seltene Fehlfall dazu, eine zuvor richtige eigene Entscheidung zu revidieren. Ein System, das offensichtlich unzuverlässig ist, erzeugt diesen Effekt nicht.

Für Sprachmodelle kommt hinzu, dass die Ausgabe immer gleich sicher klingt. Im Feldversuch zur zackigen Fähigkeitsgrenze führte der Modelleinsatz bei einer Aufgabe außerhalb der Grenze dazu, dass Teilnehmende seltener richtig lagen als ohne Modell. [Dell'Acqua et al.](https://mitsloan.mit.edu/sites/default/files/2023-10/SSRN-id4573321.pdf)

## So kannst du dir das vorstellen

Das Navigationsgerät sagt links, obwohl dort eine Baustelle ist. Wer selten falsch geleitet wurde, biegt links ab. Genau die gute Erfahrung macht die Kontrolle überflüssig erscheinen. Das Bild erklärt den Mechanismus, es spricht Menschen keine Sorgfalt ab.

## Was es in der Praxis bedeutet

Kontrolle muss eingebaut sein, nicht erhofft. Das heißt: Quellen anzeigen, damit Prüfen wenig Aufwand macht; Unsicherheit ausweisen, statt alles gleich sicher zu formulieren; und bei folgenreichen Entscheidungen eine eigene Einschätzung verlangen, bevor der Vorschlag sichtbar wird.

Für Schulungen ist der wirksamste Inhalt nicht die Warnung, sondern das Erlebnis: Fälle zeigen, in denen das Modell überzeugend falsch lag. Wer das einmal gesehen hat, prüft anders.

## Wo es verwechselt wird

Automation Bias ist kein Fehler des Systems, sondern ein Muster im Umgang damit. Und sie ist nicht dasselbe wie Gefälligkeitsverhalten des Modells, auch wenn beides zusammen die Prüfung erschwert.

## Verwandte Begriffe

**Human-in-the-Loop**, **Human-on-the-Loop**, **Sycophancy**, **Jagged Frontier**, **Grounding**.