Grounding

Grounding, auf Deutsch Erdung oder Rückbindung, heißt, eine Antwort an nachprüfbare Quellen zu binden. Das Modell soll nicht aus dem erinnern, was im Training vorkam, sondern aus Material antworten, das ihm gerade vorliegt, und die Herkunft mit ausweisen.

Belege gehören zur Antwort

Technisch geschieht das über Quellenangaben, die an einzelne Aussagen gekoppelt sind. Eine Schnittstelle liefert zu jeder Behauptung die genaue Textstelle mit, die sie stützt, sodass sich die Antwort prüfen und die Quelle anzeigen lässt. Anthropic: Citations

Der Anlass ist bekannt: Sprachmodelle behaupten Dinge, die nicht stimmen, arbeiten mit veraltetem Wissen und legen ihren Weg zur Antwort nicht offen. Genau dagegen wurde der Abruf externer Inhalte vorgeschlagen. Gao et al.

So kannst du dir das vorstellen

Der Unterschied ist der zwischen einer Behauptung im Gespräch und einer Fußnote in einem Text. Die Fußnote macht die Aussage nicht automatisch richtig, aber sie macht sie prüfbar, und das verändert, wie man mit ihr umgeht. Das Bild erklärt den Zweck der Rückbindung, es garantiert keine Richtigkeit.

Was es in der Praxis bedeutet

Für Anwendungen im Unternehmen ist die Quellenangabe oft wichtiger als die Formulierung der Antwort. Sie erlaubt der Fachabteilung, im Zweifel selbst nachzusehen, und sie macht Fehler auffindbar, statt sie zu verstecken.

Zwei Dinge sind dabei zu beachten. Erstens muss der Verweis auf die tatsächlich verwendete Stelle zeigen, nicht auf das Dokument als Ganzes, sonst prüft niemand nach. Zweitens sagt eine Quellenangabe nichts darüber, ob die Aussage aus der Quelle richtig abgeleitet wurde. Ob das zutrifft, ist eine eigene Frage, die unter Groundedness läuft.

Wo es verwechselt wird

Grounding ist nicht dasselbe wie RAG: RAG ist ein Weg, Material bereitzustellen, Grounding das Ziel der Rückbindung. Und Quellenangaben sind kein Beweis, sondern eine Einladung zum Nachprüfen.

Verwandte Begriffe

Groundedness, Retrieval-Augmented Generation, Hallucination, Retrieval Noise, Retriever.