補完リクエストのレイテンシーは、主に2つの要因(モデルと生成されるトークン数)に左右されます。レイテンシー改善のガイダンスについては、更新されたドキュメントのこちらをご覧ください。
OpenAI APIモデルでレイテンシーを最適化する
応答時間に影響する要因について学ぶ
更新日: 14 days ago
応答時間に影響する要因について学ぶ
補完リクエストのレイテンシーは、主に2つの要因(モデルと生成されるトークン数)に左右されます。レイテンシー改善のガイダンスについては、更新されたドキュメントのこちらをご覧ください。