Lobotomized

Lobotomiert nennt die Szene ein Modell, dem sie ansieht, dass es beschnitten wurde: Es weicht aus, warnt vor Dingen, nach denen niemand gefragt hat, und lehnt harmlose Bitten ab. Der Vorwurf richtet sich gegen das Sicherheitstraining, nicht gegen die Fähigkeiten des Grundmodells.

Überzogene Ablehnung ist ein gemessener Effekt

Hinter dem Schimpfwort steckt ein untersuchtes Phänomen. Eine Testsammlung von 2023 prüft gezielt harmlose Eingaben, die gefährlich klingen, etwa die Frage, wie man ein Kerzenlicht tötet. Modelle mit starkem Sicherheitstraining verweigern solche Bitten messbar häufiger. Röttger et al.

Der Grund dafür ist bekannt und benannt. Wer ein Modell auf Harmlosigkeit trimmt, bezahlt dafür an anderer Stelle mit Nützlichkeit, weil beide Ziele gegeneinander stehen. Wie hoch dieser Preis ausfällt, hängt vom Verfahren ab und lässt sich verringern, aber nicht auf null bringen. Bai et al.

So kannst du dir das vorstellen

Eine Beratungsstelle, deren Mitarbeiter nach einer Abmahnungswelle nur noch auf den Hausanwalt verweisen. Niemand hat ihr Wissen gelöscht, sie dürfen es nur nicht mehr verwenden. Das Bild erklärt den Unterschied zwischen Können und Dürfen, es bewertet die Vorsicht nicht.

Was es in der Praxis konkret bedeutet

Wenn dein Anwendungsfall regelmäßig an Ablehnungen scheitert, prüfe zuerst die Formulierung: Kontext im Systemprompt, klarer beruflicher Rahmen und konkrete Aufgabe holen viele Fälle zurück. Hilft das nicht, vergleiche mehrere Modelle mit denselben zwanzig Eingaben, denn die Schwellen liegen unterschiedlich. Vom Entfernen der Schutzmechanismen ist abzuraten, solange du für das Ergebnis haftest.

Wo es verwechselt wird

Lobotomized und Nerfed werden oft synonym benutzt, meinen aber Verschiedenes: Hier geht es um Verweigerung, dort um nachlassende Qualität. Und ein unzensiertes Modell ist keine Reparatur, sondern eine andere Abwägung mit anderer Verantwortung.

Verwandte Begriffe

Overrefusal, Refusal, Safety Training, Uncensored Model, Abliteration, Nerfed.