Na latenciju zahtjeva za dovršavanje najviše utječu dva čimbenika: model i broj generiranih tokena. Pročitajte našu ažuriranu dokumentaciju za smjernice za poboljšanje latencija.
Optimizacija latencije s OpenAI API modelima
Saznajte koji čimbenici utječu na vrijeme odgovora
Ažurirano: 24 hours ago