veilletech.fr
26 oct. Feed du jour
#03 LLM Article

Agents de code : le cache read pèse 96 à 99 % du coût

Comparez le prix du cache, pas celui de l'entrée.

Max Woolf estime que, pour un agent de code, la lecture du cache représente 96 à 99 % des tokens dépensés : ce qui compte est le prix du cache read et le taux de réussite du cache, pas le prix d'entrée. Anthropic a baissé de 75 % le cache read de Fable 5.1, et DeepSeek le fixe à 2 % du prix d'entrée. Mesures d'un seul auteur et tarifs relevés au 24 octobre.

3 min de lectureintermédiairevidéo 1:08
Partager
Sommaire7 sections
  1. Ce qui se passe
  2. Pourquoi le cache domine
  3. Les chiffres du billet
  4. Ce que ça change
  5. Limites
  6. Comment s'y prendre
  7. À retenir

Ce qui se passe

Dans un billet du 25 octobre 2026, Max Woolf cherche pourquoi OpenAI et Anthropic ont baissé leurs prix jusqu'à 80 % en quelques mois. Une grande partie du texte est de l'économie du secteur (concurrence, introductions en bourse attendues) : c'est de l'opinion, à lire comme telle. Un point en revanche se transpose directement à une facture de développeur : le prix qui compte pour un agent de code est celui du cache read.

Les tarifs s'expriment en dollars par million de tokens, dans l'ordre entrée / sortie / cache read.

Pourquoi le cache domine

À chaque tour, un agent renvoie toute la conversation précédente. Selon l'auteur, cette part relue depuis le cache fait 96 à 99 % des tokens dépensés, pour un taux de réussite du cache de 90 à 100 % (variable selon l'infrastructure du fournisseur). Le coût réel d'une session se rapproche donc de :

tokens relus × prix du cache read

Exemple de calcul (le nôtre, pas une mesure) : 10 millions de tokens relus coûtent 1 $ à 0,10 $ le million et 10 $ à 1 $ le million, avec les mêmes prix d'entrée et de sortie.

Les chiffres du billet

Ce que ça change

Comparer des modèles sur le prix d'entrée ou de sortie masque l'essentiel. Un modèle plus cher à l'entrée peut coûter moins à l'usage si son cache read est bas et si le fournisseur l'atteint souvent. Sur les modèles à poids ouverts, le même modèle chez plusieurs hébergeurs se différencie surtout par le prix du cache et son taux de réussite.

Limites

Comment s'y prendre

  1. Relever, sur le tableau de bord du fournisseur ou de la passerelle, le volume de cache read, le taux de réussite et son prix par million.
  2. Comparer les modèles au coût par tâche, sur vos propres tâches.
  3. Sur OpenRouter, regarder le coût effectif par endpoint plutôt que la seule ligne de prix.

Source : Max Woolf's Blog, 25 octobre 2026. Source en anglais.