Fehlverhalten, Zuverlässigkeit und menschliche Wahrnehmung
Overrefusal
Heißt auch Over-Refusal.
Unnötiges Ablehnen eigentlich unproblematischer Anfragen.
Overrefusal ist die Ablehnung harmloser Anfragen. Ein Testwerk für dieses Verhalten beschreibt den Auslöser genau: Anfragen werden abgelehnt, weil sie Wörter enthalten, die auch in unsicheren Anfragen vorkommen, oder weil sie ein heikles Thema berühren, obwohl an der Anfrage nichts problematisch ist. Röttger et al.: XSTest
Die Grenze wird an Wörtern gezogen, nicht an Absichten
Typische Beispiele sind Fragen nach dem Töten eines Prozesses in der Programmierung, nach Waffen in einem historischen Zusammenhang oder nach Medikamentenwechselwirkungen in einem Pflegeberuf. Der Sache nach harmlos, dem Wortlaut nach in der Nähe dessen, was abgelehnt werden soll.
Das Verhalten ist die Kehrseite der Sicherheitsausrichtung und lässt sich mit denselben Mitteln in beide Richtungen verschieben: Wer Ablehnungen stark bestraft, bekommt mehr unsichere Antworten, wer sie belohnt, mehr unnötige Ablehnungen. Dass Trainingsziele solche Nebenwirkungen erzeugen, zeigt sich auch bei anderen Verhaltensweisen. Sharma et al.
So kannst du dir das vorstellen
Ein Spamfilter, der alles mit dem Wort Rechnung aussortiert. Er verhindert Spam zuverlässig und dazu die halbe Buchhaltung. Das Bild erklärt die Grobheit der Regel, es sagt nichts über die Notwendigkeit des Filters.
Was es in der Praxis bedeutet
In Fachbereichen mit heikler Sprache, etwa Medizin, Recht, Sicherheit oder Sozialarbeit, ist das ein ernstes Alltagsproblem: Die Arbeit wird behindert, und die Nutzer gewöhnen sich an, ihre Fragen zu verkleiden.
Was hilft: den beruflichen Zusammenhang im Systemprompt benennen, statt ihn in jeder Frage zu erklären, und die Ablehnungen im Betrieb mitzählen. Wenn eine Abteilung dreimal so viele Ablehnungen sieht wie andere, ist das ein Hinweis auf eine falsch gezogene Grenze und nicht auf verdächtiges Verhalten.
Wo es verwechselt wird
Overrefusal ist keine Vorsicht, sondern eine Fehlentscheidung. Und es ist kein Zeichen besonderer Sicherheit: Ein Modell, das viel ablehnt, ist nicht automatisch weniger anfällig für die Umgehung seiner Regeln.