Jeudi 12 mars 2026, 10h23. Le canal Slack de l'équipe vibre : « Le pic du 11.11 démarre avec trois semaines d'avance, le SAV IA crache des timeouts, on perd 4 000 €/h ». Notre SaaS e-commerce cross-border sert 12 pays depuis Shenzhen et notre architecture mono-modèle vient de montrer ses limites. Cet article raconte comment nous avons basculé en six heures sur un routage hybride Opus 4.7 / DeepSeek V4 (avec V3.2 en stable) via Claude Code Templates et l'endpoint unifié HolySheep AI, en divisant la facture API par 3,2 tout en tenant 99,4 % de SLA.
1. Pourquoi un seul modèle ne suffit plus
Notre ancien pipeline routait 100 % des requêtes vers Claude Sonnet 4.5 via une intégration directe. Trois problèmes concrets sont apparus lors du pic :
- Latence p95 à 1 800 ms sous charge — intenable pour un chat temps réel.
- Coût marginal de 15 $ / MTok en sortie qui mangeait 38 % de la marge brute.
- Impossibilité de servir les intents simples (FAQ, tracking) avec un modèle 75× moins cher.
Il nous fallait un routeur capable de classer l'intent en moins de 50 ms et de basculer vers le modèle le plus rentable sans dégrader la qualité perçue.
2. Architecture cible : trois couches
Le choix s'est porté sur Claude Code Templates (CCT), framework open-source publié par Anthropic qui standardise la déclaration de politiques de routage en YAML. Couplé à la passerelle HolySheep AI qui expose plus de 200 modèles derrière une API compatible OpenAI, nous obtenons :
- Couche 1 — Classifieur léger : appel DeepSeek V3.2 (0,42 $/MTok) qui tague chaque requête (intent, urgence, complexité).
- Couche 2 — Routeur CCT : applique la politique YAML et sélectionne le modèle cible.
- Couche 3 — Modèles experts : Opus 4.7 pour les cas complexes (75 $/MTok sortie), Sonnet 4.5 (15 $/MTok) pour le middle-ground, DeepSeek V3.2 (0,42 $/MTok) pour le volume.
3. Configuration du routeur Claude Code Templates
Le fichier router.yaml ci-dessous décrit la politique de routage. Il est versionné dans notre dépôt Git interne et déployé via ArgoCD.
# router.yaml — politique de routage SAV IA e-commerce
apiVersion: cct/v1
kind: RoutingPolicy
metadata:
name: sav-hybrid-2026q1
owner: [email protected]
spec:
default_model: deepseek-v3.2
timeout_ms: 4500
fallback_chain:
- claude-sonnet-4.5
- deepseek-v3.2
rules:
- match:
intent: refund_dispute
urgency: high
route: claude-opus-4-7
max_tokens: 1024
- match:
intent: order_tracking
route: deepseek-v3.2
max_tokens: 256
- match:
intent: product_recommendation
lang: fr
route: claude-sonnet-4.5