私は都内の EC サイトを運営する佐藤商事でバックエンド開発をしており、昨年末のセールで AI カスタマーサービスの問い合わせが前月の 3 倍に膨れ上がりました。上長は「過去 3 年分の問い合わせログとマニュアルを要約して RAG 検索インデックスに入れろ」と私に命じてきました。各ログは平均 8,000 トークン、ピーク時の製品マニュアルは 50,000 トークン超。要約 API を選ぶところから始まった泥臭い実務の話を、本日は共有します。
本記事の背景：私が直面した 3 つのユースケース
- EC の AI カスタマーサービス急増：問い合わせ対応ボットが誤回答を連発。原因の 7 割が「古いログと新ポリシーの混在」でした。
- 企業 RAG システムの立ち上げ：50 万件のサポートチケットを 1,000 件単位のチャンクに要約し、ベクトル DB に投入する必要がありました。
- 個人開発者のプロジェクト：学術論文を 1 本 30 秒で構造化要約する無料ツールを公開したい副業ユーザーが、API コストに悩んで相談にきました。
いずれのケースでも「長文（≥20k トークン）を壊さず、構造化 JSON で返す」ことが要件です。そこで Gemini 2.5 Pro と Claude Opus 4.7 を、HolySheep AI（今すぐ登録）の統一エンドポイント経由で約 100 回ずつ叩き、レイテンシ・成功率・品質スコアを比較しました。本稿は前編として評価軸とラボ計測までを、後編として企業 RAG での実運用結果を掲載する予定です。
テスト環境と計測方法
# 計測スクリプト（HolySheep 統一エンド