Latensi permintaan pelengkapan kebanyakannya dipengaruhi oleh dua faktor: model dan bilangan token yang dijana. Sila baca dokumentasi kami yang dikemas kini untuk panduan tentang cara mengurangkan latensi.
Mengoptimumkan latensi dengan model API OpenAI
Ketahui faktor yang mempengaruhi masa respons
Dikemas kini: 9 days ago