GuidesOneMux

本番環境でのOpenAI APIエラー:安全な診断・リトライ・復旧

OpenAI APIの認証エラー、レート制限、タイムアウト、サーバーエラー、不正なレスポンスを診断する実践的な本番運用フロー。何をリトライし、何を修正し、どう復旧するかを解説します。

AI

要約 · TL;DR

本番環境のエラー処理では、すべてのリクエストをリトライするのではなく、まず失敗の種類を判別します。このガイドでは、設定やクォータに関するエラーと、一時的なスロットリング、タイムアウト、サーバー障害、不正なレスポンスを区別し、回数を制限したJavaScriptのリトライパターンと復旧チェックリストを紹介します。

要点

  • 認証、権限、不正なリクエスト、クレジット不足のエラーは、原因を解決する前にリトライしないでください。
  • レート制限や過負荷への対応では、`Retry-After`があればそれに従い、指数バックオフとジッターを適用してリトライ回数を制限します。
  • タイムアウトが発生しても処理が失敗したとは限りません。冪等でない処理をむやみに繰り返さないでください。
  • 後続のワークフロー状態を確定する前に成功レスポンスを検証し、安全に復旧できるだけの情報を保持します。
目次 (6)

本番環境の基本ルール:リトライの前に失敗を分類する

OpenAI APIの呼び出しに失敗したとき、考えるべきなのは単に「リトライすべきか」ではありません。「この失敗が一時的だと判断できる根拠は何か」「リクエストが重複したらどうなるか」を確認しましょう。本番環境のワークフローでは、エラーを分類し、回数を制限した対応を行い、安全に処理を続けられない場合はジョブの状態を保持します。

OpenAIは、認証エラー、レート制限、クレジットや支出上限の超過、サーバーエラー、モデルの過負荷について、それぞれ異なる原因を説明しています。ステータスコードだけでは判断できない場合もあるため、エラーコードとメッセージも確認してください。原因と対処方法については、OpenAIのエラーコードガイドを参照してください。

失敗の種類ごとの初動

症状想定される対応リトライするか
401 認証エラーAPIキーが正しく、有効であること、および意図した組織が使用されていることを確認します。IP許可リストを設定している場合は、その内容も確認します。認証情報またはアクセス権を修正するまでは、しません。
400 不正なリクエストメッセージとリクエストパラメーターを確認します。必須入力、エンコーディング、形式、サイズなどを点検します。リクエストを修正するまでは、しません。
429 レート制限または「速度を落としてください」同時実行数またはリクエスト頻度を下げます。Retry-Afterがあればそれに従い、その後はトラフィックを段階的に増やします。リトライ回数を制限する方針の範囲内で行います。
429 クレジット、支出、または使用量の上限error.codeを確認し、クレジットを補充するか、該当する上限の問題を解決します。しません。同じリクエストを繰り返してもアクセスは回復しません。
500 サーバーエラーまたは503 過負荷少し待ち、Retry-Afterがあればそれに従ってから、上限を設けてリトライします。通常は、適切な保護策を設けたうえで行います。
クライアントのタイムアウトまたは接続エラーネットワーク、プロキシ、TLS、ファイアウォールの状態を確認し、リクエストが完了している可能性を判断します。場合によります。まず重複による影響を考慮します。
ステータスは成功だがレスポンスが利用できないワークフローを進める前に、レスポンスの構造と必須フィールドを検証します。自動的にはリトライしません。データ品質またはプロトコルの問題として個別に処理します。

OpenAIのガイドによると、PythonのRateLimitErrorは429に、InternalServerErrorは503に対応します。そのため、過負荷の際に、これまで想定していたものとは異なるステータスが返る場合があります。どのクライアントでも、過負荷は必ず429になると決めつけず、ステータスとエラーの詳細の両方を使って判断してください。

回数を制限したJavaScriptのリトライパターン

前提条件:最新のOpenAI JavaScript SDK、設定済みのAPIキー、再リクエストが許容されるかを安全に判断できるワークフロー。この例では、選択した一時的なエラーのみをリトライします。タイムアウトしたリクエストが処理されていないことを保証するものではありません。

import OpenAI from "openai";

const client = new OpenAI();

const sleep = (ms) => new Promise((resolve) => setTimeout(resolve, ms));

function retryAfterMs(error) {
  const value = error.headers?.get?.("retry-after");
  if (!value) return null;

  const seconds = Number(value);
  if (Number.isFinite(seconds)) return Math.max(0, seconds * 1000);

  const dateMs = Date.parse(value);
  return Number.isNaN(dateMs) ? null : Math.max(0, dateMs - Date.now());
}

function isRetryable(error) {
  const code = error.code;
  if ([
    "credit_balance_exhausted",
    "organization_spend_limit_exceeded",
    "project_spend_limit_exceeded",
    "organization_usage_limit_exceeded",
  ].includes(code)) return false;

  return error instanceof OpenAI.RateLimitError ||
    (error instanceof OpenAI.APIError &&
      [500, 503].includes(error.status));
}

async function createResponseWithRetry(input, maxRetries = 3) {
  for (let attempt = 0; ; attempt++) {
    try {
      return await client.responses.create({
        model: "YOUR_MODEL",
        input,
      });
    } catch (error) {
      if (!isRetryable(error) || attempt >= maxRetries) throw error;

      const exponentialMs = Math.min(10_000, 500 * 2 ** attempt);
      const jitterMs = Math.floor(Math.random() * 250);
      const delayMs = retryAfterMs(error) ?? exponentialMs + jitterMs;
      await sleep(delayMs);
    }
  }
}

YOUR_MODELはプレースホルダーであり、モデルの推奨ではありません。この例はリトライ制御を示すもので、すべてのSDKバージョンやエンドポイントでの動作を検証したものではありません。インストール済みのバージョンでSDKが例のようにレスポンスヘッダーを公開していることを確認してください。そうでない場合は、ヘッダーを読み取るためのサポート対象の方法を使ってください。ジョブがいつまでも待ち続けないよう、リトライ回数に加えてワークフローレベルの期限も設定します。

認証エラー、不正なリクエスト、権限エラー、クォータエラーをisRetryableに含めないでください。まず設定またはアクセス権を修正します。また、ジョブごとのリトライ予算やキュー全体の同時実行数の上限も検討してください。すべてのワーカーがすぐにリトライすると、リトライによってトラフィックの急増がさらに悪化するおそれがあります。

タイムアウトと不正なレスポンスには復旧ルールが必要

タイムアウトは、クライアントが時間内にレスポンスを受け取れなかったことを意味します。サーバーが処理を完了したかどうかを示すものではありません。リトライする前に、処理が重複しても問題ないかを判断してください。後続処理に重大な影響を与えるジョブでは、ジョブIDと処理状態を保存し、可能な限り後続の書き込みを冪等にします。処理結果が不確かな場合は、むやみに処理を繰り返すのではなく、照合が必要なジョブとして記録してください。

レスポンスの検証は、独立したワークフローのステップとして扱います。レスポンスオブジェクトが存在すること、期待する内容が含まれていること、構造化出力を解析できてアプリケーションのスキーマを満たすことを確認します。検証に失敗したレスポンスを成功結果として確定してはいけません。安全な診断情報を記録し、限定的な修正またはレビューの経路に回してください。同じリクエストを繰り返せば不正な内容が直ると考えてはいけません。

運用チェックリスト

  1. タイムゾーンを含む日時、エンドポイント、モデル、HTTPステータス、エラーの種類とコード、安全なリクエスト相関IDを記録します。
  2. APIキーや機密情報を含む入力は記録しないでください。障害を安全に再現するために必要なリクエスト情報だけを保持します。
  3. 一時的なエラーだけをリトライし、最大試行回数、待機時間、ジッター、全体の期限を設定します。
  4. Retry-Afterが指定されている場合はそれに従います。スロットリングが続く場合は、さらに頻度を下げます。
  5. リトライ上限への到達と恒久的な失敗を分け、オペレーターが確認して、対象となるジョブを再実行できるようにします。
  6. エラーが続く場合は、モデル、エラーメッセージとコード、秘密情報を削除したリクエストデータとヘッダー、タイムゾーンを含む日時、その他の関連情報を収集します。OpenAIは、こうした詳細をサポートに提供することを推奨しています。

まとめ

信頼性の高いOpenAI APIワークフローでは、一時的なサービス負荷と、設定や上限の変更が必要なエラーを区別します。スロットリングやサービス障害には慎重にリトライし、認証やリクエストのエラーは修正します。また、タイムアウトや無効な出力は、明示的な復旧状態として扱います。こうして失敗を分類することで、リトライループが単一の呼び出し失敗を本番環境の大きなインシデントに発展させるのを防げます。

よくある質問

OpenAI APIの429レスポンスはすべてリトライすべきですか?

いいえ。レート制限へのレスポンスは、間隔を空け、試行回数を制限し、`Retry-After`があればそれに従ってリトライします。クレジット不足や支出・使用量の上限超過が原因の429では、その上限の問題を解決する必要があります。呼び出しを繰り返してもアクセスは回復しません。エラーコードを確認してください。

OpenAI APIがタイムアウトした場合、ワークフローではどう対応すべきですか?

結果は不確かなものとして扱います。処理が完了していても、クライアントがタイムアウトする場合があります。リトライする前に重複処理の影響を考慮し、可能な限り後続処理を冪等にして、結果が判然としないジョブは照合に回してください。

APIから不正なレスポンスが返された場合、どうすればよいですか?

保存や処理を行う前に、レスポンスの構造と必須フィールドを検証します。ジョブを成功状態にせず、安全な診断情報を記録し、同一のリクエストを自動で繰り返すのではなく、管理された修正またはレビューの経路を使ってください。

503は429と同じ意味ですか?

いいえ。提示されているOpenAIのガイダンスでは、429のレート制限レスポンスと503のモデル過負荷レスポンスは別のケースです。過負荷は必ず429で返ると決めつけず、ステータスとエラーの詳細を確認し、必要に応じて両方を処理してください。

関連記事