Prompt Caching et MCP : Optimiser l'IA pour la Production

La partie du prompt caching que personne n'optimise (jusqu'à ce que ça morde)

Le pitch standard, c'est caching = 80-90 % d'économie sur les tokens. Vrai. Ce que la plupart des articles omettent, et ce que les ingénieurs sur r/LangChain et r/OpenAI continuent d'apprendre à la dure, c'est que le caching n'est un gain que si votre cache hit. Et qu'il hit ou non dépend de choix d'architecture qui paraissent innocents jusqu'à ce que vous les mesuriez.

Trois pièges concrets à nommer :

• →L'asymétrie des TTL est réelle. Le TTL par défaut d'Anthropic est de 5 minutes, celui d'OpenAI 1 heure, Google entre les deux. Si votre trafic est en rafales avec 10+ minutes de calme, le cache Anthropic s'évaporera entre les rafales et vos "économies" disparaîtront discrètement. La doc prompt caching d'Anthropic propose désormais des tiers de cache à 1 heure à un surcoût — le calcul vaut le coup pour les charges calmes mais régulières.
• →Les frontières de cache doivent coller aux fréquences de changement. Si vous mélangez l'ordre des chunks RAG entre requêtes, le cache casse. Triez les chunks récupérés par une clé stable (document ID) avant concaténation ; ce seul changement a à lui seul économisé à des équipes des factures mensuelles à cinq chiffres.
• →Les system prompts dynamiques sont un tueur silencieux de cache. Injecter le timestamp courant ou un user ID dans le system prompt paraît anodin. Ça invalide le cache à chaque requête. Déplacez tout ce qui est dynamique à la fin de votre prompt, toujours.

Côté MCP, la spécification officielle Model Context Protocol est courte et lisible ; si vous écrivez encore des schémas de fonctions bespoke par vendor en 2026, vous construisez de la dette technique. L'annonce MCP d'Anthropic vaut cinq minutes pour comprendre pourquoi ce standard a gagné la course.

Prompt Caching : Arrêtez de Payer Deux Fois les Mêmes Tokens

Chaque appel API envoie votre prompt système + contexte RAG + historique de conversation. Si votre prompt système fait 2 000 tokens et reste identique pour toutes les requêtes, vous payez ces 2 000 tokens à chaque fois. Le prompt caching dit à l'API : « J'ai déjà envoyé ce préfixe, réutilisez-le. »

Requête 1 : [8000 tokens statiques] + [2000 tokens dynamiques] = 10 000 tokens facturés
Requête 2 : [8000 tokens statiques] + [2000 tokens dynamiques] = 10 000 tokens facturés
Requête 3 : [8000 tokens statiques] + [2000 tokens dynamiques] = 10 000 tokens facturés

Total : 30 000 tokens facturés pour 6 000 tokens de contenu unique

MCP : Le Model Context Protocol

Serveur MCP : 'Service Météo'
Outils :
  - get_weather(city, units)
  - get_forecast(city, days)
Ressources :
  - weather://cities -> liste des villes supportées
  - weather://alerts -> alertes météo actives

Checklist d'Optimisation Production

Testez Votre Compréhension

Félicitations !

Vous avez complété le Module 9 et l'ensemble du curriculum IA avancé. Vous comprenez maintenant :

• →Le context engineering, concevoir l'environnement informationnel pour l'IA
• →Le lost-in-the-middle, les effets de position et l'optimisation
• →L'optimisation de production, caching, MCP et gestion des coûts

Ce sont les compétences qui séparent les amateurs de prompts des ingénieurs IA de production.

Retournez à la vue d'ensemble du Module 9 pour revoir votre progression et explorer les prochaines étapes.