Zero-Shot Prompting

Zero-Shot Prompting bedeutet, einem Modell eine Aufgabe ohne vorangestelltes Lösungsbeispiel zu stellen. Google-Glossar Der Prompt kann trotzdem ausführliche Anweisungen, Kontext und Formatvorgaben enthalten; „zero“ bezieht sich auf die Anzahl gezeigter Aufgabenbeispiele. Brown et al.: Language Models are Few-Shot Learners

Anweisen ohne Vormachen

Das Modell erhält eine Beschreibung der Aufgabe und bearbeitet anschließend den konkreten Fall, ohne zuvor im Prompt eine passende Musterlösung zu sehen. Brown et al.: Language Models are Few-Shot Learners Eine klare Ausgabevorgabe kann dabei helfen, unter mehreren inhaltlich möglichen Antwortformen die gewünschte einzugrenzen. Google-Glossar

Zero-Shot beschreibt diese Eingabegestaltung und bedeutet nicht, dass das Modell vorher überhaupt nichts gelernt hätte. Brown et al.: Language Models are Few-Shot Learners In der GPT-3-Arbeit wird ein bereits vortrainiertes Modell verwendet, dessen Gewichte bei dieser Aufgabenbearbeitung nicht weiter angepasst werden. Brown et al.: Language Models are Few-Shot Learners

Ebenso bezeichnet „Shot“ hier kein Gespräch und keinen einzelnen technischen Modellaufruf, sondern ein vorgeführtes Beispiel. Google-Glossar Ein langer Auftrag kann daher weiterhin ein Zero-Shot-Prompt sein.

So kannst du dir das vorstellen

Für eine hypothetische Sortieraufgabe lautet dein Prompt:

Ordne die Nachricht einer Kategorie zu:
Lieferung, Rechnung oder Sonstiges.
Gib ausschließlich den Kategorienamen aus.

Nachricht: Wann trifft mein bestellter Schreibtisch ein?

Die Kategorien und die Ausgabeform sind vorgegeben. Es gibt aber kein bereits gelöstes Beispiel wie „Wo bleibt mein Paket? → Lieferung“, an dem das Modell das Muster zusätzlich ablesen könnte.

Du könntest mit dieser einfachen Fassung beginnen und zunächst beobachten, welche Fälle nicht zuverlässig zugeordnet werden. Das Beispiel ist ein selbst formulierter Prompt, kein gemessener Leistungstest.

Wann ein Beispiel helfen kann

Ohne Vorführung kann insbesondere ein mehrdeutiges Aufgabenformat schwerer zu erkennen sein. Brown et al.: Language Models are Few-Shot Learners One-Shot- und Few-Shot-Prompts ergänzen deshalb ein beziehungsweise mehrere Beispiele, die das gewünschte Antwortmuster demonstrieren. Google-Glossar

Mehr Beispiele sind allerdings kein allgemeingültiger Erfolgsbeweis; die GPT-3-Arbeit berichtet, dass zusätzliche Demonstrationen häufig, aber nicht immer helfen. Brown et al.: Language Models are Few-Shot Learners Für eine konkrete Aufgabe sollten die Varianten deshalb anhand derselben Anforderungen verglichen werden.

Verwandte Begriffe

One-Shot Prompting, Few-Shot Prompting, Prompt, In-Context Learning, Instruction Following.