Mulai 11 Maret 2025, kami telah merilis komponen dasar platform agen baru kami. Untuk detailnya, lihat dokumentasi API kami untuk API Responses, Alat termasuk Pencarian Web, Pencarian File, dan Penggunaan Komputer, serta SDK Agen kami dengan Pelacakan.
Token prompt adalah token yang Anda masukkan ke dalam model. Ini adalah jumlah token dalam prompt Anda.
Token completion adalah token apa pun yang dihasilkan model sebagai respons atas input Anda. Untuk permintaan standar, ini adalah jumlah token dalam completion.
Sebagian besar model yang kami tawarkan memiliki batas pada jumlah token yang dapat diterima (token prompt) dan pada jumlah token yang dapat dihasilkan (token completion atau token sampel).
Ini juga mencakup token apa pun yang dihasilkan saat menggunakan nilai best_of atau n yang lebih tinggi. Misalnya, jika Anda menghasilkan 3 kandidat completion menggunakan best_of = 3, jumlah token yang disampel paling banyak adalah 3 * max_tokens.
Anda dapat membaca lebih lanjut tentang mengelola token di panduan pembuatan teks kami.