OpenAI
Această pagină a fost tradusă automat. Vezi articolul original în limba engleză.

Care este diferența dintre tokenii de solicitare și tokenii de completare?

Care este diferența dintre tokenii de intrare și cei de ieșire?

Actualizat: 10 days ago

Începând cu 11 martie 2025, am lansat elementele de bază ale noii noastre platforme Agents. Pentru detalii, consultă documentația noastră API pentru API-ul Responses, instrumentele care includ Căutarea pe web, Căutarea în fișiere și Utilizarea computerului, precum și SDK-ul Agents cu Urmărire.

Tokenurile solicitării sunt tokenurile pe care le introduceți în model. Acesta este numărul de tokenuri din solicitarea dvs.

Tokenurile de completare sunt toate tokenurile generate de model ca răspuns la datele introduse de dvs. Pentru o solicitare standard, acesta este numărul de tokenuri din completare.

Majoritatea modelelor pe care le oferim au limite atât pentru numărul de tokenuri pe care le pot primi (tokenurile solicitării), cât și pentru numărul de tokenuri pe care le pot genera (tokenuri de completare sau de eșantionare).

Sunt incluse și toate tokenurile generate când se utilizează o valoare mai mare pentru best_of sau n. De exemplu, dacă generați 3 completări candidate folosind best_of = 3, numărul de tokenuri eșantionate va fi de cel mult 3 * max_tokens.

Puteți afla mai multe despre gestionarea tokenurilor din ghidul nostru pentru generarea de text.

A fost util acest articol?