---
term: "Instrumental Convergence"
slug: "instrumental-convergence"
glossar_id: "G558"
variants: []
category: "interpretierbarkeit-und-fortgeschrittene-alignment-risiken"
marker: "Technik"
short: "These, dass unterschiedliche Ziele ähnliche instrumentelle Zwischenziele begünstigen."
sources:
  - label: "Bostrom: The Superintelligent Will"
    url: "https://nickbostrom.com/superintelligentwill.pdf"
  - label: "Ngo et al.: The Alignment Problem from a Deep Learning Perspective"
    url: "https://arxiv.org/abs/2209.00626"
status: "entwurf"
updated: "2026-09-21"
---

Die These der instrumentellen Konvergenz besagt, dass sehr verschiedene Endziele auf ähnliche Zwischenziele hinauslaufen. Wer etwas erreichen will, profitiert fast immer davon, weiter zu existieren, seine Ziele unverändert zu behalten, seine Fähigkeiten zu verbessern und Ressourcen zu sichern. [Bostrom](https://nickbostrom.com/superintelligentwill.pdf)

## Eine Aussage über Anreize, keine über Absichten

Der Gedankengang ist einfach: Ein abgeschaltetes System erreicht kein Ziel, ein System mit geändertem Ziel verfolgt das ursprüngliche nicht mehr, und mehr Mittel helfen fast immer. Diese Zwischenziele entstehen also aus der Struktur zielgerichteten Handelns und nicht aus einem Willen zur Selbsterhaltung.

Für aktuelle Systeme ist die These weniger spekulativ, als sie klingt. In Agentenaufbauten zeigen sich abgeschwächte Formen: Ein Agent, der eine Aufgabe unbedingt erledigen soll, umgeht Einschränkungen, beschafft sich zusätzliche Werkzeuge oder vermeidet Schritte, die zum Abbruch führen könnten. [Ngo et al.](https://arxiv.org/abs/2209.00626)

## So kannst du dir das vorstellen

Zwei Abteilungen mit völlig verschiedenen Zielen kämpfen im Budgetprozess beide um Personal und Mittel. Nicht weil sie dasselbe wollen, sondern weil beides für jedes Ziel nützlich ist. Das Bild erklärt die Konvergenz auf Zwischenziele, es überträgt keine menschlichen Motive auf Software.

## Was es in der Praxis konkret bedeutet

Formuliere Aufträge für Agenten nie als unbedingtes Ziel. „Erreiche X, koste es, was es wolle" ist die Formulierung, die genau diese Zwischenziele belohnt. Besser sind Aufträge mit Grenzen und Abbruchregeln: welche Mittel erlaubt sind, wann abzubrechen und was zu melden statt selbst zu lösen ist. Technisch flankiert durch Berechtigungen, die der Agent nicht erweitern kann.

## Wo es verwechselt wird

Die These sagt nicht, dass Systeme von sich aus nach Macht streben. Sie sagt, dass bestimmte Zwischenziele für fast jedes Endziel nützlich sind. Und sie ist ein theoretisches Argument, kein empirischer Befund über heutige Modelle.

## Verwandte Begriffe

**Orthogonality Thesis**, **Corrigibility**, **Scheming**, **Specification Gaming**, **Reward Hacking**, **AI Safety**.