Agentic RAG

Agentic RAG heißt, dass ein Agent über die Suche entscheidet, statt sie fest zu verdrahten. Er bestimmt, ob überhaupt gesucht wird, wie die Suchanfrage lautet, ob ein weiterer Durchgang nötig ist und wann das Material reicht. Eine Übersichtsarbeit beschreibt das als Antwort auf die starren Abläufe der einfachen Bauform, denen die Beweglichkeit für mehrschrittige Fragen fehlt. Singh et al.

Suchen wird zu einem Werkzeug unter mehreren

Technisch ist die Suche dabei ein Werkzeug im Sinne des Werkzeugaufrufs. Der Agent kann sie mehrfach benutzen, die Anfrage zwischen den Durchgängen ändern und die Zwischenergebnisse bewerten. Für Fragen, die aus mehreren Teilen bestehen, ist das der wesentliche Unterschied: Eine einzelne Suche mit der ursprünglichen Frage liefert dort selten genug Material. Gao et al.

Damit erbt dieser Aufbau die Eigenschaften von Agenten: Er ist beweglicher und zugleich schwerer vorherzusagen, in Kosten wie in Laufzeit.

So kannst du dir das vorstellen

Der Unterschied ist der zwischen einem Formular und einem Gespräch mit der Archivarin. Das Formular führt eine Suche aus, die Archivarin fragt nach, sucht zweimal und legt am Ende die Akten hin, die zusammen die Frage beantworten. Das Bild erklärt die Beweglichkeit, es sagt nichts über die Trefferqualität.

Was es in der Praxis bedeutet

Der Nutzen zeigt sich bei Fragen, die vergleichen oder mehrere Quellen verbinden. Der Preis sind mehrere Modellaufrufe je Frage, längere Wartezeit und schwerere Fehlersuche, weil jeder Lauf anders verlaufen kann.

Nützlich ist deshalb eine Obergrenze für die Zahl der Suchdurchgänge und ein Protokoll, das die gestellten Suchanfragen festhält. Daran siehst du, ob der Agent sinnvoll verfeinert oder nur dieselbe Frage umformuliert, bis das Budget aufgebraucht ist.

Wo es verwechselt wird

Agentic RAG ist nicht automatisch besser als die einfache Bauform: Bei einfachen Fragen kostet es mehr und bringt nichts. Und mehrere Suchdurchgänge allein machen noch keinen Agenten, solange die Reihenfolge im Code steht.

Verwandte Begriffe

Retrieval-Augmented Generation, Naive RAG, AI Agent, Tool Use, Self-RAG, Corrective RAG.