Ang latency ng isang completion request ay pangunahing naaapektuhan ng dalawang salik: ang modelo at ang bilang ng mga token na nabuo. Pakibasa ang aming na-update na dokumentasyon para sa gabay sa pagpapahusay ng mga latency.
Pag-optimize ng latency gamit ang mga modelo ng OpenAI API
Alamin ang mga salik na nakaaapekto sa oras ng pagtugon
Na-update: 21 days ago