Që nga 11 marsi 2025, kemi publikuar elementet bazë të platformës sonë të re të agjentëve. Për detaje, shihni dokumentacionin tonë të API-së për API-në Responses, Mjetet duke përfshirë Kërkimin në ueb, Kërkimin e skedarëve dhe Përdorimin e kompjuterit, si dhe SDK-në tonë të Agjentëve me Gjurmim.
Tokenët e kërkesës janë tokenët që futni në model. Ky është numri i tokenëve në kërkesën tuaj.
Tokenët e plotësimit janë çdo token që modeli gjeneron si përgjigje ndaj hyrjes suaj. Për një kërkesë standarde, ky është numri i tokenëve në plotësim.
Shumica e modeleve që ofrojmë kanë kufij si për numrin e tokenëve që mund të marrin si hyrje (tokenët e kërkesës), ashtu edhe për numrin e tokenëve që mund të nxjerrin (tokenët e plotësimit ose të mostrave).
Kjo përfshin edhe çdo token të gjeneruar kur përdoret një vlerë më e lartë e best_of ose n. Për shembull, nëse po gjeneroni 3 plotësime kandidate duke përdorur best_of = 3, numri i tokenëve të kampionuar do të jetë jo më shumë se 3 * max_tokens.
Mund të lexoni më shumë rreth menaxhimit të tokenëve në udhëzuesin tonë për gjenerimin e tekstit.