3 h 17 du matin, dashboard Grafana en feu. Mon script d'extraction nocturne sur 50 millions de tokens vient de planter : ConnectionError: HTTPSConnectionPool(host='api.anthropic.com', port=443): Read timed out. Le batch, démarré la veille, a échoué à 78 %. Le pire ? Les 3,2 millions de tokens déjà facturés à 15 $/MTok sont perdus. 48 $ partis en fumée pour du vide, et 11 heures de calcul à recommencer. C'est exactement le moment où j'ai basculé l'ensemble de mes pipelines sur un relais 3折 — en l'occurrence HolySheep AI — pour les appels batch Claude Sonnet 4.5. Trois mois plus tard, voici le comparatif TCO brut, chiffres de production à l'appui.
Pourquoi le TCO batch explose sur l'API officielle
Le tarif « 15 $/MTok » d'Anthropic pour Claude Sonnet 4.5 est un prix d'appel input. Le tarif output est 5× plus élevé, soit 75 $/MTok. C'est la première surprise qui crève le budget quand on industrialise. Sur un volume mensuel réaliste de 100 MTok (60 input / 40 output), la décomposition est sans appel :
- Coût input : 60 MTok × 15 $ = 900 $
- Coût output : 40 MTok × 75 $ = 3 000 $
- Sous-total tokens : 3 900 $/mois
- Pertes échecs réseau (≈ 1,29 %) non remboursés : +50,70 $
- TCO réel officiel : ≈ 3 951 $/mois
À cela s'ajoutent des files d'attente nocturnes (entre 02 h et 06 h UTC) où les batches restent en in_progress plus d'une heure, et un rate-limit non documenté qui déclenche des 429 Too Many Requests lors des pics.