Definition
Parametereffiziente Feinabstimmung (PEFT) ist eine Technik zur Anpassung großer vortrainierter Modelle an neue Aufgaben, indem nur eine kleine Teilmenge von Parametern statt des gesamten Modells aktualisiert wird.
Zweck
Ziel ist es, die Rechenkosten und den Speicherbedarf zu senken und gleichzeitig eine hohe Aufgabenleistung aufrechtzuerhalten.
Bedeutung
- Ermöglicht die Feinabstimmung auch für Organisationen ohne große Ressourcen.
- Reduziert den CO2-Fußabdruck im Vergleich zum vollständigen Modelltraining.
- Ermöglicht effizientes Task-Switching in der Produktion.
- Bezieht sich auf Methoden wie LoRA und Adapter.
Funktionsweise
- Wählen Sie ein großes vortrainiertes Basismodell aus.
- Identifizieren Sie Parameter-Teilmengen (z. B. Adapter mit niedrigem Rang).
- Trainieren Sie nur diese Teilmengen anhand der Zielaufgabendaten.
- Halten Sie andere Parameter unverändert.
- Bereitstellung mit minimalem Ressourcenaufwand.
Beispiele (Reale Welt)
- LoRA (Low-Rank Adaptation): wird häufig zur Feinabstimmung von LLMs verwendet.
- Hugging Face PEFT-Bibliothek: effizientes Toolkit zur Feinabstimmung.
- Google-Recherche: Adapter für mehrsprachige NLP-Aufgaben.
Referenzen / Weiterführende Literatur
- Hu et al. „LoRA: Low-Rank-Adaption großer Sprachmodelle.“ arXiv.
- Houlsby et al. „Parametereffizientes Transferlernen für NLP.“ ACL.
- Hugging Face PEFT-Dokumentation.
