Tanggal 11 Maret 2025, kita wis ngrilis blok panyusun platform Agen anyar kita. Kanggo rincian, delengen dokumentasi API kita kanggo API Respons, Piranti kalebu Panelusuran Web, Panelusuran File, lan Panggunaan Komputer, lan SDK Agen kita kanthi Pelacakan.
Token prompt yaiku token sing sampeyan lebokake menyang model. Iki cacahe token ing prompt sampeyan.
Token rampungan yaiku kabeh token sing diasilake model kanggo nanggapi input sampeyan. Kanggo panjaluk standar, iki cacahe token ing rampungan.
Umume model sing ditawakake duwe watesan kanggo cacah token sing bisa ditampa (token prompt) lan cacah token sing bisa diasilake (token rampungan utawa token sampel).
Iki uga nyakup kabeh token sing diasilake nalika nggunakake nilai best_of utawa n sing luwih dhuwur. Contone, yen sampeyan ngasilake 3 calon rampungan nganggo best_of = 3, cacah token sing dijupuk minangka sampel paling akeh 3 * max_tokens.
Sampeyan bisa maca katrangan luwih lengkap babagan cara ngatur token ing pandhuan nggawe teks.