Latenci požadavku na dokončení ovlivňují hlavně dva faktory: model a počet vygenerovaných tokenů. Přečtěte si prosím naši aktualizovanou dokumentaci, kde najdete pokyny ke zlepšení latencí.
Optimalizace latence s modely OpenAI API
Zjistěte, které faktory ovlivňují dobu odezvy
Aktualizováno: 10 days ago