RAG — Retrieval-Augmented Generation

Section 10.7.2 : RAG — Retrieval-Augmented Generation

🎯 Objectif pédagogique

Comprendre le RAG (Retrieval-Augmented Generation), la technique qui permet à un LLM de répondre avec vos propres données — documents, base de connaissances, historique — sans fine-tuning. Vous apprendrez le processus technique (ingestion, vectorisation, recherche), les outils accessibles sans code, et les bonnes pratiques pour obtenir des réponses fiables et sourcées.

Le problème que RAG résout

Les LLM ont deux limitations majeures qui freinent leur adoption en entreprise :

Limitation 1 — Connaissances figées : un LLM est formé sur des données ayant une date limite. GPT-5 a été formé sur des données allant jusqu'à début 2025. Il ne connaît pas vos résultats du trimestre dernier, les décisions prises en réunion hier, ou les changements de tarifs annoncés ce matin.

Limitation 2 — Pas d'accès à vos données privées : le LLM ne connaît pas les documents internes de votre entreprise — procédures, contrats, bases clients, historique de projet, notes CRM. Il ne peut donc pas répondre à "Quel est notre taux de churn sur le segment Enterprise au Q4 2025 ?".

Solutions possibles :

• →Fine-tuning : réentraîner le modèle sur vos données. Coûteux (10,000€+), lent (jours), et les données deviennent vite obsolètes.
• →RAG : fournir les documents pertinents au moment de la question, dans le prompt. Rapide, économique, toujours à jour.

Le RAG est devenu la solution standard pour 90% des cas d'usage entreprise car il combine le meilleur des deux mondes : la puissance de raisonnement du LLM + vos données spécifiques.

Comment fonctionne le RAG (le processus complet)

Phase A — Ingestion (préparation, faite une seule fois) :

Étape 1 : Collecte des documents source Rassemblez tous les documents que l'IA devra "connaître" : PDFs, documents Word, pages web, emails importants, notes de réunion, FAQ, documentation technique, contrats, etc. Plus vos sources sont complètes et bien organisées, meilleures seront les réponses.

Étape 2 : Découpage en "chunks" Chaque document est découpé en morceaux (chunks) de taille optimale — typiquement 500-1000 tokens (~300-700 mots). Pourquoi découper ? Parce que le LLM a une fenêtre de contexte limitée : on ne peut pas lui envoyer 500 pages d'un coup. On lui envoie uniquement les chunks pertinents.

Le découpage est un art :

• →Trop petit (100 tokens) : perte de contexte, le chunk n'a pas de sens seul
• →Trop grand (2000 tokens) : dilution, informations non pertinentes incluses
• →Technique clé — overlap : chaque chunk chevauche le précédent de 10-20% pour ne pas couper une idée en plein milieu

Étape 3 : Vectorisation (embeddings) Chaque chunk est converti en un vecteur — une série de 1536 nombres (pour les modèles OpenAI) qui représente le sens du texte, pas les mots exacts. Deux phrases qui parlent du même sujet avec des mots différents auront des vecteurs proches.

Exemple : "Le taux de rétention client au Q4 est de 85%" et "Nous conservons 85% de nos clients au dernier trimestre" produisent des vecteurs très similaires, même si les mots sont différents.

Étape 4 : Stockage dans une base vectorielle Les vecteurs sont stockés dans une base spécialisée (Pinecone, Chroma, Weaviate, Qdrant, pgvector). Ces bases sont optimisées pour la recherche par similarité — trouver les vecteurs les plus proches d'un vecteur donné, parmi des millions.

Phase B — Requête (à chaque question de l'utilisateur) :

Étape 5 : L'utilisateur pose une question Exemple : "Quel est notre taux de churn sur le segment Enterprise au Q4 2025 ?"

Étape 6 : Vectorisation de la question La question est convertie en vecteur avec le même modèle d'embedding que les chunks. Ainsi, on peut comparer la question aux documents sur la même "échelle de sens".

Étape 7 : Recherche de similarité La base vectorielle retourne les 3-5 chunks dont les vecteurs sont les plus similaires au vecteur de la question. Ce sont les passages de vos documents les plus pertinents pour répondre.

Étape 8 : Injection dans le prompt Le prompt envoyé au LLM ressemble à :

Contexte (extraits de documents internes) :
[Chunk 1] Rapport Q4 2025 — Segment Enterprise : taux de churn 4.2%...
[Chunk 2] Analyse rétention — Le segment Enterprise montre une amélioration...
[Chunk 3] KPIs dashboard — Enterprise: 150 clients, -6 churns, acquisition +12...

Question de l'utilisateur : Quel est notre taux de churn sur le segment Enterprise au Q4 2025 ?

Instructions : Réponds en te basant UNIQUEMENT sur les documents fournis. 
Cite la source pour chaque affirmation. Si l'information n'est pas dans les documents, dis-le.

Étape 9 : Génération de la réponse sourcée Le LLM produit une réponse basée sur vos données : "Le taux de churn du segment Enterprise au Q4 2025 est de 4.2%, en baisse par rapport au Q3 (5.1%). (Source : Rapport Q4 2025, page 3)"

RAG en pratique : les outils accessibles sans coder

Vous utilisez déjà du RAG sans le savoir

• →Custom GPTs avec des fichiers uploadés : quand vous créez un GPT et uploadez des PDFs, ChatGPT fait du RAG en coulisses — il indexe vos fichiers, cherche les passages pertinents, et les injecte dans le contexte à chaque question
• →Claude Projects avec des documents de contexte : même principe — Claude indexe vos documents et les utilise pour répondre de manière contextualisée
• →NotebookLM avec des sources : c'est du RAG avec une interface élégante, plus la capacité de générer des "podcasts" à partir de vos sources
• →Perplexity qui cherche sur le web : c'est du RAG en temps réel — le web est la base de connaissances

Exercice pratique : créer un RAG simple avec Claude Projects

Étape 1 : Allez sur claude.ai → Projects → Create Project Étape 2 : Nommez votre projet (ex : "Expert politique RH 2025") Étape 3 : Uploadez 3-5 documents (PDF de votre politique RH, FAQ interne, convention collective) Étape 4 : Ajoutez des instructions de projet :

Tu es l'expert RH interne de notre entreprise. 
Tu réponds aux questions des employés en te basant UNIQUEMENT sur les documents fournis.
Si l'information n'est pas dans les documents, dis-le clairement.
Cite toujours la source et le numéro de page.
Ton : professionnel, bienveillant, précis.

Étape 5 : Testez avec des questions : "Combien de jours de congé ai-je droit en tant que cadre ?" → La réponse devrait citer votre convention collective.

Limites du RAG et comment les contourner