Deux façons de rendre une IA utile
Un grand modèle de langage (nouvel onglet) généraliste ne connaît ni vos procédures, ni vos clients, ni votre vocabulaire. Deux techniques permettent de combler cet écart : le RAG, qui lui fournit les bons documents au moment de répondre, et le fine-tuning, qui l’entraîne à nouveau sur des exemples choisis.
Les deux ne s’opposent pas. Dans la plupart de nos projets, on commence par un assistant RAG, puis on envisage un fine-tuning lorsque le style ou la précision ne suffisent plus.
Le RAG, pour des réponses fondées sur vos documents
Le RAG (Retrieval-Augmented Generation) a été décrit en 2020 dans un article de recherche de Meta AI (nouvel onglet). Le principe : on découpe vos documents, on les indexe, puis à chaque question on retrouve les passages pertinents et on les donne au modèle avec la question.
Ses atouts : les réponses citent leurs sources, les documents se mettent à jour sans réentraîner quoi que ce soit, et les droits d’accès peuvent être respectés. C’est la solution idéale pour les procédures internes, les contrats ou une base de connaissances.
Le fine-tuning, pour une façon de faire
Le fine-tuning poursuit l’entraînement d’un modèle sur vos propres exemples. Des méthodes comme LoRA (nouvel onglet) permettent de le faire à coût raisonnable, en ne modifiant qu’une petite partie du modèle.
Il est utile quand le modèle doit adopter un style précis, respecter un format de sortie strict ou maîtriser un vocabulaire très spécialisé. Il suppose un dataset de qualité, construit et vérifié avec vos experts.
Comment choisir
- Vos informations changent souvent : choisissez le RAG.
- Vous avez besoin de citer vos sources : choisissez le RAG.
- Le modèle doit écrire dans un format ou un style très précis : envisagez le fine-tuning.
- Vous voulez un modèle à vous, hébergé en interne : combinez fine-tuning et IA auto-hébergée.
Et la confidentialité ?
Dans les deux cas, vos données peuvent rester sous votre contrôle si le modèle est hébergé chez vous ou chez un hébergeur européen. Le RGPD (nouvel onglet) s’applique dès que des données personnelles sont utilisées, à l’entraînement comme à l’usage. Nous détaillons ce point dans notre article IA et RGPD.