Définition
Le réglage fin efficace des paramètres (PEFT) est une technique permettant d'adapter de grands modèles pré-entraînés à de nouvelles tâches en mettant à jour uniquement un petit sous-ensemble de paramètres au lieu de l'ensemble du modèle.
Interet
L’objectif est de réduire les coûts de calcul et les besoins de stockage tout en maintenant de solides performances des tâches.
Importance
- Rend le réglage fin possible pour les organisations ne disposant pas de ressources massives.
- Réduit l’empreinte carbone par rapport à la formation complète du modèle.
- Permet une commutation efficace des tâches en production.
- Lié à des méthodes telles que LoRA et les adaptateurs.
Aide
- Sélectionnez un grand modèle de base pré-entraîné.
- Identifier les sous-ensembles de paramètres (par exemple, les adaptateurs de bas rang).
- Entraînez uniquement ces sous-ensembles sur les données de tâches cibles.
- Gardez les autres paramètres gelés.
- Déployez avec une surcharge de ressources minimale.
Exemples (monde réel)
- LoRA (Low-Rank Adaptation) : largement utilisé dans le réglage fin des LLM.
- Bibliothèque PEFT Hugging Face : boîte à outils de réglage fin efficace.
- Recherche Google : adaptateurs pour tâches NLP multilingues.
Références / Lectures complémentaires
- Hu et al. « LoRA : adaptation de bas rang de grands modèles de langage. » arXiv.
- Houlsby et al. « Apprentissage par transfert efficace des paramètres pour le PNL. » ACL.
- Documentation PEFT sur le visage enlacé.
