Lõpetamistaotluse latentsust mõjutavad peamiselt kaks tegurit: mudel ja genereeritud tokenite arv. Palun lugege meie uuendatud dokumentatsiooni, et saada juhiseid latentsuse parandamiseks.
Latentsuse optimeerimine OpenAI API mudelitega
Uurige tegureid, mis mõjutavad vastuseaegu
Värskendatud: last month