Szene-Slang, Memes und Debattenbegriffe
AI Doomer
Heißt auch Doomer.
Meist spöttische Bezeichnung für Personen mit Fokus auf existenzielle KI-Risiken.
AI Doomer bezeichnet jemanden, der fortgeschrittene KI für eine ernsthafte Gefahr für den Fortbestand der Menschheit hält. Das Wort kam als Spottbegriff von der Gegenseite auf, wird inzwischen aber auch von Betroffenen selbst benutzt, teils trotzig, teils nüchtern. Wikipedia
Die Zuschreibung verwischt sehr unterschiedliche Positionen
Unter das Etikett fällt alles zwischen einem Forscher, der eine geringe, aber nicht vernachlässigbare Wahrscheinlichkeit für eine Katastrophe annimmt, und jemandem, der ein Ende der Entwicklung fordert. Ein Kürzel aus dieser Szene ist p(doom), die persönlich geschätzte Wahrscheinlichkeit eines katastrophalen Ausgangs, die von unter einem Prozent bis über neunzig reicht.
Dass die Sorge nicht am Rand steht, zeigt eine Erklärung von 2023, die das Aussterberisiko durch KI neben Pandemien und Atomkrieg als globale Priorität bezeichnet und von einer großen Zahl bekannter Forscher unterschrieben wurde. Center for AI Safety
Auch innerhalb der Sicherheitsforschung wird das Wort kritisiert, weil es eine Einschätzung in einen Charaktertyp verwandelt und damit das Argument ersetzt. EA Forum
So kannst du dir das vorstellen
Zwei Statiker beurteilen dasselbe Gebäude. Der eine hält den Einsturz für unwahrscheinlich, aber möglich, und will nachrechnen. Wer ihn Schwarzseher nennt, muss seine Rechnung nicht mehr prüfen. Das Bild erklärt die Wirkung des Etiketts, es bewertet die Statik nicht.
Was es in der Praxis konkret bedeutet
Achte beim Lesen darauf, ob jemand ein Argument oder eine Person bezeichnet. Nützlich ist die Rückfrage nach dem Zeitrahmen und dem Mechanismus: Welche Fähigkeit, in welchem Zeitraum, mit welcher Folge. Fragen zur Zuverlässigkeit heutiger Systeme lassen sich damit von Fragen zu hypothetischen Systemen trennen, und nur die erste Sorte betrifft dein nächstes Projekt.
Wo es verwechselt wird
AI Doomer ist nicht gleichbedeutend mit KI-Sicherheitsforschung. Der größte Teil dieser Arbeit befasst sich mit Fehlverhalten, Missbrauch und Zuverlässigkeit heute. Und es ist nicht das Gegenteil von e/acc, sondern dessen Schimpfwort für die Gegenseite.
Verwandte Begriffe
e/acc, Decel, Effective Altruism, AI Safety, Instrumental Convergence, Alignment.