Embeddings, Suche und Retrieval-Augmented Generation
Maximal Marginal Relevance
Heißt auch MMR.
Auswahl unter Abwägung von Relevanz und Vielfalt.
Maximal Marginal Relevance, abgekürzt MMR, wählt Treffer so aus, dass sie zur Frage passen und sich zugleich voneinander unterscheiden. Die Arbeit von 1998, die den Begriff geprägt hat, nennt das Ziel relevante Neuheit und setzt es als lineare Kombination um: Ein Dokument hat hohe Bewertung, wenn es zur Anfrage passt und den bereits ausgewählten Dokumenten möglichst unähnlich ist. Carbonell, Goldstein
Die reine Bestenliste hat ein Wiederholungsproblem
Eine nach Ähnlichkeit sortierte Liste bringt oft fünfmal fast dasselbe nach oben, weil sich die besten Treffer inhaltlich überschneiden. Bei einer Suche über viele Fassungen desselben Dokuments ist das die Regel, nicht die Ausnahme.
MMR greift beim Auswählen ein: Nach dem ersten Treffer wird jeder weitere danach bewertet, wie viel er zusätzlich beiträgt. Ein Faktor steuert dabei, wie stark Vielfalt gegenüber reiner Passgenauigkeit zählt. In der Literatur zu RAG zählt das Verfahren zur Auswahl und Verdichtung des Kontexts. Gao et al.
So kannst du dir das vorstellen
Du stellst eine Expertenrunde zusammen. Die fünf besten Bewerbungen kommen zufällig alle aus demselben Fachgebiet, und die Runde hat einen blinden Fleck. Also nimmst du die beste Bewerbung und suchst danach Leute, die etwas anderes mitbringen. Das Bild erklärt die Abwägung, nicht die konkrete Formel.
Was es in der Praxis bedeutet
Sinnvoll ist MMR vor allem dort, wo wenige Abschnitte in den Prompt gehen und Doppelungen deshalb teuer sind. Statt drei Varianten desselben Absatzes liefert es drei verschiedene Aspekte.
Der Faktor braucht Augenmaß. Zu viel Vielfalt holt Abschnitte herein, die nur noch entfernt zur Frage gehören, und verschlechtert die Antwort. Wo ohnehin ein Reranker läuft, lohnt ein Vergleich, ob beides zusammen wirklich besser abschneidet als der Reranker allein.
Wo es verwechselt wird
MMR ist kein Reranking im üblichen Sinn: Es bewertet die Treffer nicht inhaltlich neu, sondern wählt aus einer bewerteten Liste aus. Und es entfernt keine Duplikate, es stellt sie nur hinten an.
Verwandte Begriffe
Reranking, Retrieval Top-k, Retrieval Noise, Retriever, Cosine Similarity.