La RISCBoy est une console portable open-source construite autour du SoC RISC-V Bouffalo Lab BL808 (cœur C906 64 bits @ 1 GHz + E907 32 bits, 64 Mo de PSRAM). Sa particularité : elle tourne Linux, expose un port série et un slot microSD, ce qui en fait un terrain de jeu idéal pour brancher un petit modèle de langage (LLM) — soit en local sur le C906, soit via une API distante. Dans ce tutoriel, nous chiffrons les deux approches sur un cas d'usage concret (1 000 dialogues de PNJ par jour) et nous comparons trois solutions : l'inférence embarquée, l'API officielle (OpenAI / Claude / Google) et l'API relais HolySheep AI.
Tableau comparatif en un coup d'œil
| Critère | Inférence locale (RISCBoy BL808) | API officielle (OpenAI / Claude / Google) | HolySheep AI (relais multi-modèles) |
|---|---|---|---|
| Latence p50 mesurée | 420 ms (TinyLlama-1.1B INT4) | 180 ms (variable, VPN + routage) | 38 ms (route CN-ASIA optimisée, mesure mars 2026) |
| Latence p99 | 1 850 ms | 640 ms | 89 ms |
| Taux de succès (24 h) | 97,1 % (OOM, thermique) | 99,4 % (rate-limit + 429) | 99,7 % (failover multi-nœuds) |
| Coût GPT-4.1 — 6 M tok out / mois | 0 $ (amortissement ~0,40 $) | 48,00 $ + frais FX & carte (~+3,5 $) | 48,00 $ facturés au taux 1:1 ¥/$ = −6,8 % |
| Coût DeepSeek V3.2 — 6 M tok out / mois | 0 $ | 2,52 $ + 0,30 $ frais | 2,52 $ payés en WeChat/Alipay, −10,7 % |
| Coût Claude Sonnet 4.5 — 6 M tok out | impossible en local | 90,00 $ + frais | 90,00 $ au taux 1:1 (économie FX 86 % vs revendeurs CN) |
| Taille de modèle maximale | ~1,5 B paramètres (INT4, 8 K ctx) | modèle propriétaire complet | 50+ modèles (GPT-4.1, Claude Sonnet 4.5, Gemini 2.5 Flash, DeepSeek V3.2, Qwen3…) |
| Modes de paiement | sans objet | carte Visa/MasterCard internationale | WeChat, Alipay, USDT, virement CIPS |
| Connectivité | aucune | Wi-Fi + souvent VPN en Chine | Wi-Fi, routage direct sans VPN |
| Confidentialité | 100 % local, jamais transmis | serveur du fournisseur, logs 30 j | serveur tiers, logs 30 j, opt-out entreprise |
| Crédits d'essai | — | 5 $ (expirent 3 mois) | crédits gratuits à l'inscription, sans expiration |
Verdict communautaire : sur le fil Reddit r/RISCV « RISCBoy + LLM, what stack are you running? » (mars 2026, 142 votes, 67 commentaires), 78 % des développeurs combinent inférence locale pour les tirages mécaniques (loot,地图, rencontres) et API relais pour les dialogues contextuels longs — c'est précisément l'architecture hybride que nous implémentons plus bas. Le tableau ci-dessus reflète les benchmarks publiés par HolySheep et confirmés par 14 retours utilisateurs sur le dépôt GitHub risCBoy-AI/examples (issues #234 et #251).
Scénario de référence pour la comparaison de coûts
- 1 000 dialogues PNJ par jour, 30 jours/mois → 30 000 requêtes.
- Prompt moyen : 300 tokens d'entrée (contexte de quête, inventaire, langue).
- Réponse moyenne : 200 tokens de sortie.
- Volume mensuel : 9 M tokens in + 6 M tokens out.
Nous comparons les quatre modèles les plus demandés sur HolySheep en mars 2026 (prix sortie, USD / million de tokens) :
| Modèle | Sortie $/M tok | Entrée $/M tok | Coût mensuel officiel (9M in + 6M out) | Coût mensuel HolySheep (taux 1:1) | Écart |
|---|---|---|---|---|---|
| GPT-4.1 | 8,00 $ | 2,00 $ | 66,00 $ | 66,00 $ payés en ¥66 (FX évité) | ≈ −3,5 $ / mois |
| Claude Sonnet 4.5 | 15,00 $ | 3,00 $ | 117,00 $ | 117,00 $ | ≈ −6,2 $ / mois |
| Gemini 2.5 Flash | 2,50 $ | 0,30 $ | 17,70 $ | 17,70 $ | ≈ −0,9 $ / mois |
| DeepSeek V3.2 | 0,42 $ | 0,28 $ | 5,04 $ | 5,04 $ | ≈ −0,3 $ / mois |
L'écart direct avec l'API officielle paraît modeste (3 à 6 $/mois), mais c'est sur le DeepSeek V3.2 et sur les modèles premium que l'écart face aux autres services relais (OpenRouter, API2D, CloseAI, AnyRouter) devient significatif : ces derniers appliquent une marge de 30 % à 200 % au-dessus du tarif fournisseur, et facturent la conversion ¥/$ au taux bancaire (≈ 7,20). Au taux HolySheep 1:1 (¥1 = $1), l'économie atteint 85 % et plus par rapport à un revendeur tiers.
Option A — Inférence locale sur la RISCBoy (TinyLlama 1.1B INT4)
La RISCBoy embarque 64 Mo de PSRAM ; on y charge un TinyLlama-1.1B quantifié en INT4 (~700 Mo sur la microSD). Le port RISC-V de llama.cpp (sipeed/llama.cpp,