Latenciu požiadavky na dokončenie ovplyvňujú najmä dva faktory: model a počet vygenerovaných tokenov. Prečítajte si našu aktualizovanú dokumentáciu, kde nájdete pokyny na zlepšenie latencie.
Optimalizácia latencie s modelmi OpenAI API
Zistite, ktoré faktory ovplyvňujú časy odozvy
Aktualizované: 9 days ago