OpenAI
Această pagină a fost tradusă automat. Vezi articolul original în limba engleză.

Care este diferența dintre tokenii de solicitare și tokenii de completare?

Care este diferența dintre tokenii de intrare și cei de ieșire?

Actualizat: 14 days ago

Începând cu 11 martie 2025, am lansat elementele de bază ale noii noastre platforme Agents. Pentru detalii, consultă documentația noastră API pentru API-ul Responses, instrumentele care includ Căutarea pe web, Căutarea în fișiere și Utilizarea computerului, precum și SDK-ul Agents cu Urmărire.

Tokenurile de solicitare sunt tokenurile pe care le introduci în model. Acesta este numărul de tokenuri din solicitarea ta.

Tokenurile de completare sunt orice tokenuri pe care modelul le generează ca răspuns la intrarea ta. Pentru o solicitare standard, acesta este numărul de tokenuri din completare.

Majoritatea modelelor pe care le oferim au limite atât pentru numărul de tokenuri pe care le pot primi (tokenuri de solicitare), cât și pentru numărul de tokenuri pe care le pot genera (tokenuri de completare sau de eșantionare).

Aceasta include și orice tokenuri generate când se folosește o valoare mai mare pentru best_of sau n. De exemplu, dacă generezi 3 completări candidate folosind best_of = 3, numărul de tokenuri eșantionate va fi de cel mult 3 * max_tokens.

Poți citi mai multe despre gestionarea tokenurilor în ghidul nostru de generare de text.

A fost util acest articol?