Viimeistelypyynnön latenssiin vaikuttavat eniten kaksi tekijää: malli ja tuotettujen tokenien määrä. Lue päivitetystä dokumentaatiostamme ohjeita latenssien parantamiseen.
Latenssin optimointi OpenAI API -malleilla
Lue vasteaikoihin vaikuttavista tekijöistä
Päivitetty: 22 days ago