Evaluation, Messgrößen und Benchmark-Fallen
Benchmark Contamination
Verunreinigung einer Evaluation durch bereits bekannte beziehungsweise im Training enthaltene Aufgaben.
Benchmark Contamination liegt vor, wenn die Aufgaben eines Tests bereits in den Trainingsdaten eines Modells enthalten waren. Der schlimmste Fall ist, dass ein Modell auf dem Testteil eines Benchmarks trainiert und anschließend auf demselben Benchmark bewertet wird. Das Ausmaß des Problems ist unbekannt, weil es sich nicht einfach messen lässt. Sainz et al.
Erinnern sieht aus wie Können
Die Folge ist eine systematische Überschätzung: Ein betroffenes Modell schneidet besser ab als ein nicht betroffenes, ohne mehr zu können. Daraus entstehen falsche Schlüsse, etwa dass ein Verfahren funktioniert, das in Wahrheit nur Auswendiggelerntes abruft.
Das Problem verschärft sich mit der Zeit. Je älter ein Benchmark ist und je öfter er im Netz diskutiert wurde, desto wahrscheinlicher stehen seine Aufgaben mitsamt Lösungen in Trainingsdaten. Bewertungsrahmen verlangen deshalb Angaben darüber, was gemessen wurde und unter welchen Bedingungen. Liang et al.
So kannst du dir das vorstellen
Ein Prüfling hat die Klausur mit Lösungen vorab gesehen. Er schreibt eine Eins, und niemand kann am Ergebnis erkennen, ob er den Stoff beherrscht. Das Bild erklärt die Verzerrung, es unterstellt keine Absicht.
Was es in der Praxis bedeutet
Für die Bewertung von Zahlen heißt das: Alte, bekannte Benchmarks taugen wenig für aktuelle Modelle. Aussagekräftiger sind Tests, die nach dem Trainingsstand entstanden sind, oder Aufgaben, die regelmäßig erneuert werden.
Für eigene Prüfungen ist das ein Argument, die eigene Fallsammlung nicht zu veröffentlichen und sie nicht in Prompts zu verwenden, die beim Anbieter gespeichert werden könnten. Und es ist ein Grund, Aufgaben zu ergänzen, statt dieselbe Sammlung über Jahre zu benutzen.
Wo es verwechselt wird
Verunreinigung ist kein Betrug: Sie entsteht meist ungewollt beim Sammeln von Trainingsdaten aus dem Netz. Und sie ist etwas anderes als Benchmark Gaming, bei dem es um das Optimieren auf Messwerte geht.
Verwandte Begriffe
Benchmark, Benchmark Gaming, Evaluation, SOTA, Golden Dataset.