Ventetiden for en fullføringsforespørsel påvirkes hovedsakelig av to faktorer: modellen og antallet tokens som genereres. Les den oppdaterte dokumentasjonen vår for veiledning om hvordan du kan forbedre ventetider.
Optimalisering av latens med OpenAI API-modeller
Lær om faktorer som påvirker responstider
Oppdatert: 9 days ago