Od 11. ožujka 2025. objavili smo temeljne komponente naše nove platforme za agente. Pojedinosti potražite u našoj API dokumentaciji za API za odgovore, alate uključujući pretraživanje weba, pretraživanje datoteka i upotrebu računala, te u našem SDK-u za agente s praćenjem.
Tokeni upita tokeni su koje unosite u model. To je broj tokena u vašem upitu.
Tokeni dovršetka svi su tokeni koje model generira kao odgovor na vaš unos. Za standardni zahtjev to je broj tokena u dovršetku.
Većina modela koje nudimo ima ograničenje broja tokena koje može primiti (tokeni upita) i broja tokena koje može generirati (tokeni dovršetka ili uzorka).
To uključuje i sve tokene generirane pri upotrebi veće vrijednosti parametra best_of ili n. Primjerice, ako generirate tri moguća dovršetka s pomoću best_of = 3, broj uzorkovanih tokena bit će najviše 3 * max_tokens.
Više o upravljanju tokenima pročitajte u našem vodiču za generiranje teksta.