Latensi panjaluk completion utamane dipengaruhi dening rong faktor: model lan jumlah token sing digawe. Mangga waca dokumentasi sing wis dianyari kanggo pandhuan babagan ningkatake latensi.
Ngoptimalake latensi nganggo model API OpenAI
Sinau faktor sing mengaruhi wektu respons
Pembaruan: 22 days ago