结论摘要（30 秒读完）：我在过去 18 个月里用 vLLM 在 H100 spot 和 reserved 实例上分别跑过 Llama-3.1-70B 与 DeepSeek-V3.2 两套模型，实测下来 在 95% 的中小团队场景里，H100 自部署的月度 TCO 仍是调用 HolySheep 这类大模型 API 中转的 3–12 倍。本文用真实账单和 benchmark 数据，把 spot（$1.49/小时/卡）、reserved 1-year（$3.50/小时/卡）、3-year（$2.30/小时/卡）三档价格一字摊开，再对照 HolySheep 上 GPT-4.1 $8/MTok、Claude Sonnet 4.5 $15/MTok、Gemini 2.5 Flash $2.50/MTok、DeepSeek V3.2 $0.42/MTok 的 output 价格，帮你算清"自建 vs 调用"到底哪条路更划算。
如果你只想拿走一句话：业务月调用量低于 5 亿 output tokens 的团队，直接用 HolySheep AI 中转 API 是 ROI 最高的方案；只有当月调用稳定超过 5 亿 tokens 且模型必须私有化时，H100 reserved 1-year 才进入回本区间。
一、H100 Spot vs Reserved 价格机制（先看市场行情）
2026 年 H100 80GB SXM 的市场租赁价格已经基本稳定在以下区间，我用过去三个月里 Lambda、RunPod、CoreWeave、AWS p5 实例群的报价取了均值：
- On-demand（按需）：$3.80–$4.20/小时/卡（含网络和存储）
- Spot（抢占式）：$1.20–$1.80/小时/卡，平均 $1.49/小时/卡
- Reserved 1-year：$3.30–$3.70/小时/卡，均值 $3.50/小时/卡
- Reserved 3-year：$2.10–$2.50/小时/卡，均值 $2.30/小时/卡
看起来 spot 比 1-year reserved 便宜了 57%，但 spot 的代价是 任意时刻被云厂商 evict。vLLM 官方 issue 里经常能看到用户在长 batch 推理时被 AWS spot interruption 打掉一半请求，下面第三节也会引用 GitHub 上的真实讨论。
二、vLLM 自部署 TCO 全拆解
光看裸机价格是远远不够的，TCO 必须包含：显卡 + 电费 + 散热 + 网络 + 运维人力 + 故障损失。我把这套账目按 730 小时/月拆开：
┌─────────────────────────────────────────────────────┐
│ H100 80GB 自部署月度 TCO（单卡，2026 Q1） │
├─────────────────────────────────────────────────────┤
│ Spot 实例（$1.49/h × 730h） $1,087.7 │
│ ├─ 故障损失（5% evict 重启浪费） +$54.4 │
│ └─ 运维工时（按 0.2 FTE @ $8000/月）