Training, Daten und Modellanpassung
Adapter Merging
Heißt auch Adapter-Zusammenführung.
Zusammenführen von Adapter-Updates und Basisgewichten.
Adapter Merging bezeichnet hier vor allem das Einrechnen einer trainierten Adapteranpassung in die Gewichte des Basismodells. (Hugging Face LoRA) Die PEFT-Werkzeuge unterstützen außerdem das gewichtete Kombinieren mehrerer kompatibler Adapter; beide Vorgänge sollten ausdrücklich unterschieden werden. (Hugging Face LoRA)
So kannst du dir das vorstellen
Du hast eine Grundkonfiguration und ein Zusatzblatt mit Korrekturen. Für die Auslieferung könntest du die Korrekturen direkt in eine neue vollständige Konfiguration übernehmen, sodass das Zusatzblatt nicht mehr separat angewendet werden muss.
Eine andere Aufgabe wäre, zwei verschiedene Korrekturblätter zu einer gemeinsamen Fassung zu kombinieren. Dabei musst du erst entscheiden, wie ihre Änderungen gewichtet werden sollen. Das ist nicht dieselbe Operation wie das bloße Übernehmen eines einzelnen Zusatzblatts.
Ein Adapter wird Teil der Basis
Bei unterstützten LoRA-Adaptern kann merge_and_unload ein zusammengeführtes Modell zurückgeben, das den separaten Adapter nicht mehr enthält. (Hugging Face LoRA) Andere Funktionen behalten die Adapterstruktur bei und ermöglichen auch ein späteres Rückgängigmachen der Zusammenführung. (Hugging Face LoRA)
Nicht jede LoRA-nahe Variante lässt sich auf dieselbe Weise zusammenführen; beispielsweise ist aLoRA wegen seiner tokenabhängigen Aktivierung nicht dafür geeignet. (Hugging Face LoRA) Prüfe deshalb die Unterstützung für die tatsächlich verwendete Methode.
Mehrere Anpassungen ergeben nicht automatisch mehr Qualität
PEFT bietet Verfahren, mit denen gewichtete Kombinationen mehrerer Adapter erzeugt werden können. (Hugging Face LoRA) Die Wahl des Verfahrens und der Gewichte solltest du als eigene Modelländerung behandeln und erneut evaluieren.
Bewahre die Ausgangsdateien unabhängig vom Auslieferungsformat auf. Für die Abnahme würde ich sowohl die gewünschten Spezialaufgaben als auch unveränderte Kontrollaufgaben prüfen und dokumentieren, ob ein einzelner Adapter integriert oder mehrere Anpassungen tatsächlich kombiniert wurden.
Verwandte Begriffe
Die Abgrenzung erleichtern Adapter, Low-Rank Adaptation, Model Merging, Checkpoint und Fine-Tuning.