OpenAI API モデルによるレイテンシー最適化

補完リクエストのレイテンシーは、主に 2 つの要因、すなわちモデルと生成されるトークン数の影響を受けます。レイテンシーの改善に関するガイダンスについては、更新されたドキュメントをお読みください。