Užbaigimo užklausos delsa daugiausia priklauso nuo dviejų veiksnių: modelio ir sugeneruotų žetonų skaičiaus. Perskaitykite mūsų atnaujintą dokumentaciją, kurioje pateikiamos gairės, kaip sumažinti delsą.
Vėlinimo optimizavimas naudojant OpenAI API modelius
Sužinokite apie veiksnius, kurie lemia atsako laiką
Atnaujinta: 18 days ago