Që nga 11 marsi 2025, kemi publikuar elementet bazë të platformës sonë të re të agjentëve. Për detaje, shihni dokumentacionin tonë të API-së për API-në Responses, Mjetet duke përfshirë Kërkimin në ueb, Kërkimin e skedarëve dhe Përdorimin e kompjuterit, si dhe SDK-në tonë të Agjentëve me Gjurmim.
Tokenët e kërkesës janë tokenët që futni në model. Ky është numri i tokenëve në kërkesën tuaj.
Tokenët e plotësimit janë të gjithë tokenët që modeli gjeneron në përgjigje të të dhënave që futni. Për një kërkesë standarde, ky është numri i tokenëve në plotësim.
Shumica e modeleve që ofrojmë kanë kufizime si për numrin e tokenëve që mund të marrin (tokenët e kërkesës), ashtu edhe për numrin e tokenëve që mund të gjenerojnë (tokenët e plotësimit ose të kampionimit).
Këtu përfshihen edhe të gjithë tokenët e gjeneruar kur përdoret një vlerë më e lartë për best_of ose n. Për shembull, nëse po gjeneroni 3 plotësime kandidate duke përdorur best_of = 3, numri i tokenëve të kampionuar do të jetë jo më shumë se 3 * max_tokens.
Mund të lexoni më shumë rreth menaxhimit të tokenëve në udhëzuesin tonë për gjenerimin e tekstit.