Il-latenza ta’ talba ta’ tlestija hija influwenzata l-aktar minn żewġ fatturi: il-mudell u n-numru ta’ tokens iġġenerati. Jekk jogħġbok aqra d-dokumentazzjoni aġġornata tagħna għal gwida dwar kif ittejjeb il-latenzi.
L-ottimizzazzjoni tal-latenza bil-mudelli tal-API ta’ OpenAI
Tgħallem dwar il-fatturi li jinfluwenzaw il-ħinijiet tar-rispons
Aġġornat: 2 months ago