Les modèles de langage de grande taille (LLM) tels que GPT-4 et Llama 3 ont influencé le paysage de l'IA et ont réalisé des merveilles dans des domaines allant du service client à la génération de contenu. Cependant, adapter ces modèles à des besoins spécifiques implique généralement de choisir entre deux techniques puissantes : la génération augmentée par récupération (RAG) et le réglage fin.
Bien que ces deux approches améliorent les LLM, elles visent des objectifs différents et sont efficaces dans des situations différentes. Étudions en détail les avantages et les inconvénients de ces deux méthodes et comment chacun peut en choisir une en fonction de ses besoins.
Génération augmentée par récupération (RAG) – Qu’est-ce que c’est ?
RAG est une approche qui synergise la générative capacités des LLM avec récupération de réponses contextuellement précises. Plutôt que d'utiliser uniquement les connaissances testées, RAG récupère les informations pertinentes via des bases de données externes ou des référentiels de connaissances pour intégrer les informations dans le processus de génération de réponses.
Comment fonctionne RAG
- Modèle d'intégration : Intègre à la fois les documents et les requêtes dans l'espace vectoriel pour rendre la comparaison plus efficace.
- Retriever:Examine une base de connaissances via des intégrations pour récupérer les documents pertinents.
- Reclassement : Évalue les documents récupérés en fonction de leur pertinence.
- Modèle de langage : Fusionne les données récupérées avec les requêtes d'un utilisateur en une seule réponse.
Avantages du RAG
- Mises à niveau dynamiques des connaissances : Fournit une diffusion efficace des informations avec des processus de mise à jour considérablement réduits grâce au processus de recyclage du modèle.
- Réduction des hallucinations : En fondant correctement les réponses sur des connaissances externes, RAG minimise les inexactitudes factuelles.
- Évolutivité: Il peut être facilement intégré dans des ensembles de données volumineux et diversifiés, ce qui permet d'offrir des options pour des tâches ouvertes et dynamiques utiles, telles que les agents clients et le résumé des actualités.
Limites du RAG
- Latence: L'attention même portée à l'extraction des informations retarde le temps de sortie, ce qui entraîne une latence plus élevée et la rend inutile pour les environnements de travail en temps réel.
- Qualité de la base de connaissances : La fiabilité dans la récupération et la pertinence des connaissances externes devient importante car les réponses dépendent uniquement de ces sources.
Réglage fin : qu'est-ce que c'est ?
Le réglage fin est un processus de recyclage d'un LLM pré-entraîné sur un ensemble de données de domaine spécifique dans la préparation de l'exécution de tâches spécialisées, permettant au modèle de comprendre pleinement les modèles nuancés existant dans la limite d'un certain contexte.
Comment fonctionne le réglage fin
- Préparation des données: Les ensembles de données spécifiques aux tâches devront être nettoyés et mis de côté dans des sous-ensembles de formation, de validation et de test.
- Modèle de formation: Le LLM devra s'entraîner sur cet ensemble de données avec des méthodes incluant la rétropropagation et la descente de gradient.
- Contenu du réglage des hyperparamètres : Fournit un réglage précis sur quelques-uns des contenus d'hyperparamètres critiques tels que la taille du lot et le taux d'apprentissage, entre autres.
Avantages du réglage fin
- Personnalisation: Permet aux autorités de contrôler les actions, le ton et le style du modèle dans les sorties.
- Efficacité en inférence : Lorsqu’un LLM a été peaufiné, il produit des réponses rapides sans aucun processus de récupération externe.
- Ensemble de compétences spécialisées : Idéal pour les applications qui nécessitent qualité et précision dans des domaines bien connus, tels que la congélation, les évaluations médicales et l’analyse des contrats.
Inconvénients du réglage fin
- Intensif en ressources : Cela nécessite à la fois une grande puissance de calcul et des données étiquetées de qualité adéquate.
- Oubli catastrophique : Le réglage fin tend à écraser les connaissances génériques précédemment acquises et limite ainsi leur potentiel à répondre à de nouvelles tâches.
- Base de connaissances statique : Une fois la formation terminée, ses connaissances restent intactes, sauf si elles sont réenseignées sur de nouvelles données supplémentaires.
Différences clés entre RAG et Fine-Tuning
| Caractéristique | Génération augmentée par récupération (CHIFFON) | Réglage fin |
|---|---|---|
| Source de connaissances | Bases de données externes (dynamiques) | Intériorisé pendant l'entraînement (statique) |
| Adaptabilité aux nouvelles données | Élevé ; mises à jour via des sources externes | Faible; nécessite une reconversion |
| Latence | Plus élevé en raison des étapes de récupération | Faible; génération de réponse directe |
| Personnalisation | Limité ; s'appuie sur des données externes | Élevé; adapté à des tâches spécifiques |
| Évolutivité | S'adapte facilement aux grands ensembles de données | Besoin intensif en ressources à grande échelle |
| Exemples de cas d'utilisation | Questions-réponses en temps réel, vérification des faits | Analyse des sentiments, tâches spécifiques au domaine |
Quand choisir RAG ou Fine-Tuning
Domaine d'application nécessitant des informations en temps réel
Si l'application a besoin de connaissances actualisées en temps réel, il faut alors utiliser RAG : des systèmes de résumé d'actualités et de support client s'appuyant sur des données en évolution rapide. Exemple : un assistant virtuel récupérant des mises à jour en direct comme les cours des actions et les données météorologiques.
Domaine d'expertise
Lorsqu'un réglage précis est nécessaire pour la précision d'un domaine restreint, on peut opter pour un réglage précis dans les domaines de la révision de documents juridiques et de l'analyse de textes médicaux. Exemple : un modèle affiné formé sur la littérature médicale pour être utilisé dans le diagnostic de pathologies basées sur les dossiers des patients.
Scale
RAG est un outil de premier plan pour les requêtes ouvertes dans notre domaine, récupérant les résultats de différentes bases de connaissances de manière dynamique. Exemple : un moteur de recherche avec des réponses à des cas réels fournissant des commentaires multisectoriels sans recyclage.
La disponibilité des ressources
Le réglage fin peut être une meilleure option globale pour les cas d'utilisation à plus petite échelle où un ensemble de données statiques suffirait. Exemple : un bot formé sur un ensemble de FAQ utilisées en interne par une entreprise.
Tendances émergentes
- Approches hybrides : En combinant RAG et minimisation, le meilleur des deux mondes. Par exemple :
- RAG pour récupérer un contexte dynamique tout en affinant le modèle linguistique sur des nuances spécifiques à la tâche. Exemple : des assistants juridiques accédant à la jurisprudence tout en la résumant de manière cohérente.
- Réglage fin efficace des paramètres (PEFT) : LoRA (adaptation de bas rang) contribue à minimiser les mises à jour des paramètres lors du réglage fin, ce qui conduit à des efforts de calcul très limités tout en offrant des précisions maximales.
- RAG multimodal : Les avancées futures adopteront une vision mixte dans les systèmes RAG en combinant texte, images et audio pour une interaction riche sur différents supports.
- Apprentissage par renforcement dans RAG : L’apprentissage par renforcement peut aider à optimiser les stratégies de récupération en récompensant les modèles pour générer des résultats plus pertinents et significatifs.
[A également lu: Révolutionner l'IA avec les modèles multimodaux de langage volumineux (MLLM)]
Exemples concrets de
| CHIFFON | Réglage fin |
|---|---|
| Les assistants virtuels tels que Siri et Alexa récupèrent des informations en direct. | Les modèles d’analyse des sentiments sont finalement destinés à la surveillance des médias sociaux. |
| Outils de support client qui catégorisent les tickets à l'aide de données historiques et de FAQ. | IA juridique formée sur la jurisprudence basée sur la juridiction. |
| Les outils de recherche récupèrent des articles de revues universitaires en temps réel pour fournir certaines informations. | Modèles de traduction pouvant être affinés pour les paires de langues spécifiques à l'industrie. |
Conclusion
Le RAG et le réglage fin sont des techniques puissantes définies pour résoudre différents défis dans l'optimisation des LLM. Optez pour RAG lorsque l’attention portée à l’évaluation, à la mise à l’échelle et à la récupération en temps réel est primordiale, et, en revanche, un réglage fin lorsque la précision, la personnalisation et l'expertise axées sur les tâches sont indispensables.
