RAG ou fine-tuning : lequel pour adapter l'IA à vos données ?

Deux clients m'ont posé la même question à une semaine d'écart : « on fine-tune, ou on fait du RAG ? ». Les deux avaient déjà choisi leur camp avant de savoir quel problème ils cherchaient à résoudre. C'est le vrai piège de ce débat : on le traite comme un choix d'outil, alors que c'est d'abord un choix de problème.

Le malentendu de départ : ce ne sont pas les mêmes problèmes

RAG et fine-tuning ne s'opposent pas, ils répondent à deux besoins différents. Le RAG concerne ce que le modèle sait : des faits, des documents, des données qui bougent. Le fine-tuning concerne comment le modèle se comporte : sa forme, son style, sa manière de répondre. Poser « RAG ou fine-tuning ? » sans préciser lequel des deux vous manque, c'est comme demander « marteau ou tournevis ? » sans dire si vous avez un clou ou une vis.

Le RAG en une phrase

Le RAG, c'est donner de la mémoire au modèle : je récupère les bons passages de vos documents au moment de la question, et je demande au modèle de répondre à partir d'eux, sources à l'appui. Le modèle ne « connaît » pas vos données, il les consulte à la volée. Quand c'est bien fait, le résultat concret, c'est une réponse sourcée en 2 secondes, 70 % de recherche en moins pour vos équipes. C'est l'approche que je détaille sur la page RAG.

Le fine-tuning en une phrase

Le fine-tuning, c'est modifier le comportement du modèle : je le ré-entraîne sur des exemples pour qu'il adopte un format, un ton ou une manière de raisonner par défaut. Le modèle n'apprend pas de nouveaux faits de façon fiable, il apprend une façon de faire. C'est un pli qu'on lui donne, pas une bibliothèque qu'on lui ajoute.

Le test simple : mémoire ou méthode ?

Avant tout choix technique, je pose une seule question : ce qui manque, c'est de la mémoire ou de la méthode ? Si le modèle donne des réponses fausses ou périmées sur vos faits, c'est un problème de mémoire, donc du RAG. S'il connaît les faits mais répond dans le mauvais format ou le mauvais ton, c'est un problème de méthode, donc éventuellement du fine-tuning.

• Mémoire (faits qui bougent), RAG : catalogue produit, procédures internes, tarifs, contrats, base de connaissances, tout ce qui change et qu'il faut citer juste.
• Méthode (forme, style), fine-tuning : un format de sortie très précis, un ton de marque constant, une façon de classer ou de rédiger, répétée à très grand volume.
• Le doute fréquent : « le modèle se trompe sur nos données » n'est presque jamais un problème de méthode. C'est de la mémoire, donc du RAG.

Le RAG règle ce que le modèle sait. Le fine-tuning règle comment il se comporte. Confondre les deux, c'est payer cher pour résoudre le mauvais problème.

Coût, délai, maintenance : le match

Au-delà du principe, la différence se voit sur la facture et le calendrier. Le RAG se met en place vite et se met à jour tout seul : quand un document change, vous ré-indexez, et la réponse suit. Le fine-tuning demande de préparer un jeu d'exemples, de lancer un entraînement, puis de tout refaire à chaque évolution du modèle de base. Ce coût récurrent pèse souvent plus que le premier.

• RAG : délai court, mise à jour en ré-indexant, coût surtout dans la préparation des documents. Les faits restent frais sans ré-entraînement.
• Fine-tuning : délai plus long, jeu d'exemples à constituer, entraînement à refaire à chaque changement de modèle. Rien ne se met à jour tout seul.
• Une facture qui dérape vient rarement du choix RAG contre fine-tuning lui-même : c'est presque toujours ce qu'on met autour qui coûte cher.

Pourquoi commencer par le RAG dans la plupart des cas

Parce que le besoin le plus fréquent, c'est de la mémoire : « le modèle doit répondre juste sur nos documents ». Le RAG y répond plus vite, moins cher, et se corrige en changeant un document plutôt qu'en relançant un entraînement. Il rend aussi la réponse vérifiable, puisqu'elle cite ses sources. Avant de brancher quoi que ce soit, la vraie question est l'état de vos documents : je l'aborde dans par où commencer un RAG et dans vos données sont-elles prêtes.

Quand les combiner (l'hybride)

Les deux ne s'excluent pas. Le cas qui le justifie : vos faits bougent tout le temps (donc RAG pour la mémoire) et vous avez besoin d'un format ou d'un ton très précis, à très grand volume (donc fine-tuning pour la méthode). Le RAG apporte les faits frais, le fine-tuning apporte la forme constante. Mais c'est une optimisation, pas un point de départ : on n'ajoute le fine-tuning que si le RAG seul, bien fait, a montré ses limites sur la forme.

Et le prompting dans tout ça ?

Souvent, ni l'un ni l'autre. Avant de fine-tuner pour obtenir un format ou un ton, un bon prompt et quelques exemples suffisent neuf fois sur dix, sans dette technique. Mon ordre par défaut : prompter d'abord, ajouter du RAG dès qu'il faut des faits à jour, et ne fine-tuner qu'en dernier, si les chiffres l'exigent. J'ai détaillé cet arbitrage dans faut-il fine-tuner ou prompter.