Batch API はどのように機能しますか？
こちらに記載されている Batch API エンドポイントでは、非同期バッチ処理のためにリクエストを送信できます。これらのリクエストは 24 時間以内に処理されます。各リクエストの詳細は事前にアップロードされたファイルから読み取られ、レスポンスは出力ファイルに書き込まれます。バッチオブジェクトを照会して、ステータス更新や結果を確認できます。
Batch API の料金体系はどうなっていますか？
各モデルは、同期 API と比べてコストが 50% 割引で提供されます。当社の API 料金に関する詳しい情報はこちらです。
どのモデルをバッチ処理できますか？
Batch API は、当社のほとんどのモデルで広く利用できますが、すべてではありません。使用しているモデルが Batch API をサポートしていることを確認するには、モデルリファレンスドキュメントを参照してください。
約束された時間内に API がリクエストを完了しない場合はどうなりますか？
すべてのリクエストを 24 時間以内に処理することを目指しています。バッチの期限が切れた場合（つまり、SLA の時間枠内に完了できなかった場合）、残りの作業はキャンセルされ、すでに完了した作業が返されます。開発者には、完了した作業分の料金が請求されます。
バッチ処理できるリクエスト数の上限は何ですか？
Embeddings API には、同時にキューに入れられるリクエスト数が 100 万件までという制限があります。
その他すべての API では、バッチ処理できるリクエスト数に制限はありません。ただし、各使用量ティアには対応するバッチレート制限があります。バッチレート制限には、同時にキューに入れられる入力トークン数の上限が含まれます。レート制限はこちらで確認できます。
Batch API から応答が返るまでの時間を変更できますか？
現在指定されている時間枠は 24 時間です。現時点では、この期間を変更できません。
Batch API でストリーミングはサポートされていますか？
いいえ、Batch API ではストリーミングはサポートされていません。バッチリクエストは、ストリーミングされたレスポンスではなく、出力ファイルを通じて結果を返します。
Batch API で画像はサポートされていますか？
はい、Batch API では画像がサポートされています。
「The URL provided for this request does not prefix-match the batch endpoint」というエラーメッセージが表示されました。どうすればよいですか？
このエラーが表示される場合、URL が Batch API エンドポイント用に正しく形式設定されていないことを意味します。エンドポイントを正しく呼び出していることを確認するには、こちらのドキュメントを参照してください。
Batch API の使用は、他のレート制限にカウントされますか？
Batch API のレート制限は、既存の制限とは完全に別です。
バッチがキャンセルされるとどうなりますか？
バッチを手動でキャンセルした場合、すでに完了している結果が返されます。開発者には、完了した作業分の料金が請求されます。
バッチの期限が切れるとどうなりますか？
バッチの期限が切れた場合（つまり、SLA の時間枠内に完了できなかった場合）、残りの作業はキャンセルされ、すでに完了した作業が返されます。開発者には、完了した作業分の料金が請求されます。
バッチジョブではどのようなステータスが想定されますか？
バッチジョブには、検証中、失敗、進行中、終了処理中、完了、期限切れ、キャンセル中、キャンセル済みのいずれかのステータスがあります。API ステータス値をプログラムで確認する場合は、小文字のリテラル validating、failed、in_progress、finalizing、completed、expired、cancelling、cancelled を使用してください。
検証中: バッチを開始する前に、アップロードされたファイルの検証が進行中です。
失敗: ファイルの検証プロセスに失敗しました。
進行中: ファイルは正常に検証され、バッチプロセスが進行中です。
終了処理中: バッチジョブは完了し、結果を準備中です。
完了: バッチジョブが完了し、結果の準備ができています。
期限切れ: SLA の時間枠内にバッチを完了できませんでした。
キャンセル中: バッチジョブのキャンセルが開始されました。
キャンセル済み: バッチジョブはキャンセルされました。
すでに作成したバッチジョブはどうすれば確認できますか？
こちらで指定されている API 呼び出しを使用して、すべてのバッチジョブの一覧を取得できます。
このエンドポイントではゼロデータ保持がサポートされていますか？
組織でゼロデータ保持が有効になっている場合でも、ゼロデータ保持は Batch API には適用されない点にご注意ください。ZDR 組織はバッチジョブを作成できますが、バッチ入力ファイル、出力、エラー、中間アーティファクトは、設定された Batch、File Service、Sediment の保持ポリシーに従って保持されます。