Latensi permintaan penyelesaian sebagian besar dipengaruhi oleh dua faktor: model dan jumlah token yang dihasilkan. Silakan baca dokumentasi kami yang diperbarui untuk panduan tentang cara meningkatkan latensi.
Mengoptimalkan latensi dengan model OpenAI API
Pelajari faktor-faktor yang memengaruhi waktu respons
Diperbarui: 8 days ago