Täydennyspyynnön viiveeseen vaikuttavat eniten kaksi tekijää: malli ja luotujen tokenien määrä. Lue päivitetystä dokumentaatiostamme ohjeita viiveiden parantamiseen.
Latenssin optimointi OpenAI API -malleilla
Lue vasteaikoihin vaikuttavista tekijöistä
Päivitetty: 9 days ago