Od 11. ožujka 2025. objavili smo temeljne komponente naše nove platforme za agente. Pojedinosti potražite u našoj API dokumentaciji za API za odgovore, alate uključujući pretraživanje weba, pretraživanje datoteka i upotrebu računala, te u našem SDK-u za agente s praćenjem.
Tokeni upita su tokeni koje unosite u model. To je broj tokena u vašem upitu.
Tokeni dovršetka su svi tokeni koje model generira kao odgovor na vaš unos. Za standardni zahtjev to je broj tokena u dovršetku.
Većina modela koje nudimo ima ograničenja i za broj tokena koje mogu primiti (tokeni upita) i za broj tokena koje mogu generirati kao izlaz (tokeni dovršetka ili uzoraka).
To također uključuje sve tokene generirane pri upotrebi veće vrijednosti za best_of ili n. Na primjer, ako generirate 3 kandidata za dovršetak pomoću best_of = 3, broj uzorkovanih tokena bit će najviše 3 * max_tokens.
Više o upravljanju tokenima možete pročitati u našem vodiču za generiranje teksta.