はじめに：なぜ429エラー対策が今重要なのか
私は2024年から本番環境でLLM APIを運用してきました。日次リクエスト数が数万を超えると、突然現れるHTTP 429（Too Many Requests）がサービス停止に直結するケースを何度も経験してきました。特にバッチ処理や夜間ジョブでは、リトライ戦略の良し悪しが運用コストとSLAを直接左右します。本記事では、OpenAI互換のリレーエンドポイントで動作する堅牢なExponential Backoff再試行戦略を解説し、合わせて公式エンドポイントや他リレーサービスから HolySheep へ移行するためのプレイブックとしてまとめます