Qu'est-ce que le RAG (Retrieval-Augmented Generation) : le guide clair de 2026

Tu demandes à ChatGPT la politique de congés de ton entreprise et il te sort une réponse parfaitement rédigée... et complètement inventée. Le modèle n'a aucune idée de ton entreprise, mais il ne le dit pas : il comble le trou avec quelque chose de plausible. On appelle ça une hallucination, et c'est le plus gros problème des modèles de langage quand tu les sors de leur zone de confort.

Le RAG est la solution devenue standard pour le résoudre. Il ne change pas le modèle : il lui change les devoirs. Au lieu de lui demander de répondre de mémoire, tu lui mets les notes ouvertes sous les yeux. Voyons ça sans jargon.

Quel problème résout le RAG

Un modèle de langage apprend pendant l'entraînement, puis se « fige ». À partir de là, il traîne trois limites qu'aucun prompt élégant ne corrige :

• Il ne connaît pas tes données. Il n'a jamais vu ton wiki interne, ton catalogue de produits ni les contrats de tes clients. C'est un génie qui n'a jamais mis les pieds dans ton bureau.
• Il a une date de péremption. Ses connaissances s'arrêtent le jour où son entraînement s'est terminé. Ce qui est arrivé après, pour lui, n'existe pas.
• Quand il ne sait pas, il invente. Au lieu de dire « je ne sais pas », il produit quelque chose qui sonne bien. Pour un texte créatif, peu importe ; pour une réponse juridique ou médicale, c'est dangereux.

Le RAG attaque les trois d'un seul coup. Tu lui connectes une base de connaissances externe —tes documents, ta base de données, tes PDF— et le système récupère ce qui est pertinent au moment de répondre. Le modèle arrête de puiser dans sa mémoire et se met à puiser dans des preuves. Conséquence directe : moins d'hallucinations, des données toujours actualisables (tu changes le document, pas le modèle) et la possibilité de citer la source de chaque réponse.

La meilleure analogie, c'est l'examen. Un LLM normal fait l'examen de mémoire. Un LLM avec RAG passe le même examen, mais avec le livre ouvert et un moteur de recherche qui lui trouve la page exacte avant d'écrire chaque réponse.

Comment fonctionne le flux du RAG

Voilà le cœur du sujet. Un système RAG n'a rien de magique : ce sont quatre étapes enchaînées, et les comprendre te donne 80 % du concept.

Les deux premières étapes (ingestion et embeddings) ont lieu une seule fois, quand tu prépares ta base de connaissances. Les deux dernières (retrieval et génération) ont lieu à chaque fois que quelqu'un pose une question. À garder en tête : tu indexes une fois, tu interroges souvent. Regardons chaque pièce calmement.

Les composants, un par un

Chunking : bien découper

Tu ne peux pas balancer au modèle un manuel de 300 pages d'un coup : ça ne rentre pas dans sa fenêtre de contexte et, même si ça rentrait, ça noierait le signal dans une mer de bruit. C'est pourquoi la première étape est de découper les documents en fragments (chunks).

La taille du morceau est une décision critique et peu glamour. Des morceaux trop gros glissent de l'information hors-sujet dans chaque réponse ; des morceaux trop petits coupent une idée en deux et perdent le sens. La bonne pratique de 2026, c'est de découper en respectant la structure du document —par sections, paragraphes ou titres— au lieu de couper à l'aveugle tous les X caractères. Un bon chunking améliore souvent plus les résultats que de payer pour le modèle le plus cher.

Embeddings : convertir le sens en nombres

Un embedding est la traduction d'un texte en une liste de nombres (un vecteur) qui capture son sens. La beauté, c'est que des textes au sens proche finissent avec des vecteurs proches, même s'ils ne partagent pas un seul mot. « Comment j'annule mon abonnement » et « résilier le compte » tombent tout près dans cet espace mathématique.

C'est ce qui permet de chercher par concept et non par coïncidence littérale de termes, et c'est le grand saut par rapport au moteur de recherche classique. Chaque fragment de ta base de connaissances est converti en embedding grâce à un modèle spécialisé (d'OpenAI, de Cohere ou un modèle open source que tu fais tourner toi-même).

Base de données vectorielle : l'entrepôt avec moteur sémantique

Tous ces vecteurs, il faut les stocker quelque part qui sache les retrouver vite. C'est à ça que sert la base de données vectorielle : un entrepôt optimisé pour trouver, parmi des millions de vecteurs, les plus proches d'un vecteur donné à l'aide de métriques de distance comme la similarité cosinus.

Les options habituelles en 2026 : Pinecone (gérée, sans prise de tête), Qdrant et Weaviate (open source puissantes), Chroma (la plus simple pour démarrer et prototyper) et pgvector (si tu utilises déjà PostgreSQL et que tu ne veux pas une pièce de plus). Pour apprendre, Chroma en local suffit largement ; pour la production à grande échelle, on saute souvent vers une base gérée ou vers Qdrant.

Retrieval : trouver ce qui est pertinent

La question de l'utilisateur arrive. Le système la convertit en embedding avec le même modèle et demande à la base vectorielle les top-k fragments les plus proches par le sens (typiquement entre 3 et 8). Voilà le retrieval.

Génération : rédiger avec le contexte sous les yeux

Enfin, les fragments récupérés sont injectés dans le prompt avec la question d'origine, accompagnés d'une consigne du genre « réponds uniquement à partir de ce contexte et, si ce n'est pas là, dis-le ». Le modèle lit ce paquet et rédige une réponse fondée sur tes données, pas sur sa mémoire. C'est ici que tu peux en plus lui demander de citer de quel fragment vient chaque affirmation, ce qui rend le RAG auditable.

Réponds à la question de l'utilisateur en utilisant EXCLUSIVEMENT le contexte ci-dessous.
Si la réponse n'est pas dans le contexte, dis "Je n'ai pas cette information" et ne l'invente pas.
Cite entre crochets le numéro du fragment qui appuie chaque affirmation.

Contexte :
{fragments_recuperes}

Question :
{question_de_l_utilisateur}

RAG vs fine-tuning : quand utiliser lequel

C'est la confusion la plus courante. Les gens pensent que pour qu'un modèle « connaisse » leur entreprise, il faut le réentraîner (fine-tuning). C'est presque jamais le cas. Ce sont deux outils pour des problèmes différents.

La règle qui résume tout : le savoir qui change passe par la récupération ; le comportement stable passe par les poids. Le RAG t'injecte des faits frais sans toucher au modèle ; le fine-tuning façonne comment il répond, pas *ce qu'*il sait.

Et si tu as besoin des deux ? Eh bien tu les combines, ce qui est justement le standard de production en 2026 : un fine-tuning léger (un adaptateur LoRA fin sur un bon modèle de base) pour fixer la voix et le format, accompagné de RAG pour le savoir qui change. La séquence sensée pour y arriver : d'abord presse le prompt à fond, ensuite ajoute du RAG, et seulement si nécessaire, fais du fine-tuning. Ne commence pas par ce qui coûte cher.

Outils pour monter ton RAG

Tu n'as pas à construire les quatre pièces à la main. L'écosystème est mûr :

• Frameworks d'orchestration. LlamaIndex est pensé de base pour le RAG : ingestion, indexation et récupération avec peu de code et une très bonne précision. LangChain est plus généraliste —il traite le RAG comme une pièce parmi d'autres d'un système plus large— et brille quand tu montes des flux complexes ou des agents. Un pattern habituel en 2026 est d'utiliser LlamaIndex pour la récupération et LangGraph pour orchestrer l'agent qui l'utilise.
• Modèles d'embeddings. D'OpenAI et de Cohere si tu veux quelque chose de géré et de qualité ; des modèles open source si tu as besoin de les faire tourner en local pour la confidentialité ou le coût.
• Bases vectorielles. Pinecone, Qdrant, Weaviate, Chroma ou pgvector, selon ce qu'on a vu plus haut.
• Observabilité. Des outils comme Langfuse ou LangSmith pour voir quels fragments ont été récupérés et pourquoi une réponse a échoué. Dès que ton RAG devient sérieux, ça cesse d'être optionnel.

Si tu veux juste le comprendre en le manipulant, monte le minimum : LlamaIndex + un modèle d'embeddings + Chroma en local, avec une poignée de tes PDF. En un après-midi, tu as un RAG qui tourne contre tes propres documents.

Erreurs classiques (et comment les éviter)

• Blâmer le modèle quand c'est la récupération qui échoue. Si la réponse est mauvaise, le premier réflexe n'est pas de changer de LLM : c'est de regarder quels fragments ont été récupérés. Presque toujours, le problème est là.
• Chunking à la hache. Couper tous les 500 caractères sans regarder la structure coupe des idées en deux. Découpe par sections et teste plusieurs tailles.
• Se fier à la seule recherche sémantique. Pour les noms propres, les codes ou les termes exacts, la recherche par le sens échoue. La recherche hybride (sémantique + mots-clés) règle ça.
• Ne pas dire au modèle qu'il a le droit de ne pas savoir. Si tu ne lui donnes pas l'autorisation explicite de répondre « ce n'est pas dans le contexte », il recommencera à inventer. La consigne anti-hallucination est obligatoire.
• Récupérer trop ou trop peu. Mettre 30 fragments dilue le signal et fait exploser le coût ; en mettre 1 est insuffisant. Ajuste le top-k et mesure-le.

Pour qui est le RAG ?

Le RAG n'est pas un caprice académique : c'est la façon la plus directe et la moins chère de faire qu'une IA parle de ce qui est à toi avec des données réelles.

Ça t'intéresse si : tu veux un chatbot qui répond sur ta documentation, tes produits ou ta base de connaissances ; tu manipules une information qui change et tu ne veux rien réentraîner à chaque fois ; tu as besoin de réponses citables et auditables ; ou tu construis un agent qui doit consulter des sources avant d'agir.

Tu n'en as peut-être pas besoin si : ton problème est de style ou de format et non de connaissance (ça, c'est le fine-tuning), ou si ce que tu demandes tient largement dans le savoir général du modèle et ne réclame ni données privées ni fraîches.

La question honnête n'est pas « RAG ou fine-tuning ? », parce que c'est presque jamais l'un contre l'autre. La question est « mon problème, c'est qu'il manque des données au modèle, ou qu'il se comporte comme je ne veux pas ? ». Si c'est la première, le RAG est ton outil, et c'est l'un des rares que tu peux avoir en marche contre tes documents cet après-midi même.