Optimiser ses contextes

Tu sais ce qu'est un token, combien ça coûte, et comment appeler une API. La dernière compétence du Maître des Tokens : optimiser ce que tu envoies au LLM pour obtenir plus de qualité avec moins de tokens.

Le contexte, c'est tout ce que le LLM voit

Quand tu envoies un message, le LLM ne voit pas que ton dernier message. Il voit tout :

• Le system prompt
• L'historique complet de la conversation
• Les documents attachés
• Ton dernier message

Tout ça forme le contexte. Plus le contexte est pertinent et bien structuré, meilleure est la réponse. Plus il est pollué par du bruit, plus la réponse se dégrade.

Principe 1 : Le system prompt est ton investissement le plus rentable

Le system prompt est envoyé à chaque requête. Si tu fais 100 appels API par jour avec le même system prompt, il a intérêt à être parfait — son impact est multiplié par 100.

Un bon system prompt contient :

1. L'identité — qui est le LLM dans ce contexte
2. Les contraintes — ce qu'il doit et ne doit pas faire
3. Le format par défaut — comment structurer ses réponses
4. Le public — à qui il s'adresse

Exemple optimisé :

Tu es un assistant pour les marchands de biens immobiliers en France.

Règles :
- Réponds en français, langage professionnel mais accessible
- Cite les articles de loi pertinents quand c'est utile
- Si tu n'es pas sûr d'une info, dis-le explicitement
- Jamais de conseil juridique définitif — oriente vers un professionnel

Format par défaut :
- Réponse directe en 2-3 paragraphes
- Si la question est complexe, utilise des sous-titres
- Termine par une action recommandée

Public : professionnels de l'immobilier, niveau intermédiaire en juridique.

Ce system prompt de 120 mots (~160 tokens) oriente chaque réponse correctement. C'est ~0,001 € par requête pour un cadrage qui évite des résultats hors-sujet.

Principe 2 : Élague l'historique de conversation

Dans une conversation longue (20+ échanges), les premiers messages deviennent souvent inutiles. Mais le LLM les traite quand même — tu paies pour du bruit.

Techniques d'élagage :

Résumé glissant — toutes les 10 messages, demande au LLM de résumer la conversation en 5 points clés, puis recommence avec ce résumé comme contexte. Tu passes de 3 000 tokens à 300.

Fenêtre mobile — garde uniquement les N derniers messages (par exemple les 6 derniers). Les anciens sont supprimés. Simple, efficace, mais tu perds du contexte ancien.

Contexte sélectif — pour chaque nouvelle requête, injecte seulement les messages de l'historique qui sont pertinents pour cette requête spécifique. Plus complexe à implémenter mais optimal en coûts.

Principe 3 : Structure tes données d'entrée

Quand tu envoies des données au LLM (un tableau, un document, des specs), la façon dont tu les structures change la qualité de la réponse.

Mauvais — données en vrac :

Voici les infos : Jean 45 ans commercial Paris 55K, Marie 32 ans dev Lyon 62K, Pierre 28 ans marketing Lille 38K

Bon — données structurées :

Employés : | Nom | Âge | Poste | Ville | Salaire | |-----|-----|-------|-------|---------| | Jean | 45 | Commercial | Paris | 55K | | Marie | 32 | Développeuse | Lyon | 62K | | Pierre | 28 | Marketing | Lille | 38K |

Le LLM comprend beaucoup mieux un tableau qu'un texte en vrac. Et paradoxalement, le tableau est souvent plus compact en tokens que la version prose.

Formats efficaces : Markdown (tableaux, listes), JSON (données structurées), XML (hiérarchies). Évite les formats visuels (le LLM ne voit pas les colonnes d'un Excel copié-collé).

Principe 4 : Moins de tokens ≠ moins de qualité

Un prompt de 50 tokens bien structuré bat un prompt de 500 tokens verbeux. La concision force la clarté.

Compare :

❌ "J'aimerais que tu puisses m'aider à rédiger un email, si c'est possible, qui permettrait de contacter mon fournisseur pour lui demander, de manière polie mais ferme, de respecter les délais de livraison qui étaient prévus dans notre accord initial."

✅ "Rédige un email au fournisseur X. Objet : retard de livraison. Ton ferme mais courtois. Rappeler les délais contractuels. Demander un planning de rattrapage. Max 8 lignes."

Le deuxième prompt fait 30 tokens de moins et produit un meilleur résultat, parce que chaque mot porte une information.

Principe 5 : Le prompt caching

Certaines API (Claude, GPT) offrent du prompt caching : si tu envoies le même début de prompt à répétition (system prompt + documents de référence), le fournisseur le met en cache et te facture moitié prix pour les tokens cachés.

C'est particulièrement utile quand :

• Tu as un gros system prompt (1 000+ tokens)
• Tu envoies le même document de référence dans chaque requête
• Tu fais beaucoup de requêtes par jour

Tu n'as rien à configurer côté Claude — le caching est automatique si le préfixe du prompt est identique.

Récapitulatif des 5 principes

1. System prompt optimisé — bien structuré, ni trop court ni trop long
2. Historique élagué — résumé glissant ou fenêtre mobile
3. Données structurées — tableaux et listes plutôt que prose
4. Concision — chaque token doit porter une information
5. Prompt caching — exploiter le cache pour les éléments répétitifs

Fin de l'Académie CalamIA

Tu as parcouru les 5 niveaux. Du débutant qui ne savait pas ce qu'est un LLM, tu es passé à quelqu'un qui comprend les tokens, sait appeler une API, et peut optimiser ses coûts.

Ce n'est pas la fin — c'est le début. L'écosystème IA évolue chaque semaine. De nouveaux modèles, de nouveaux outils, de nouvelles possibilités. CalamIA t'accompagne dans cette veille : notre comparateur, notre veille IA quotidienne, et nos formations sont là pour ça.

Abonne-toi à la newsletter pour rester informé des nouvelles leçons, des mises à jour du comparateur, et des analyses de l'équipe CalamIA.