Ringkasan
Anda dapat meninjau penggunaan API dengan dua cara:
Gunakan Dasbor Penggunaan untuk meninjau aktivitas selama periode penagihan saat ini dan sebelumnya.
Baca informasi penggunaan dalam respons API untuk memeriksa masing-masing permintaan.
Playground menggunakan panggilan API yang sama seperti aplikasi Anda. Token yang digunakan diperhitungkan dalam penggunaan API akun Anda serta mengikuti aturan penggunaan dan harga yang sama.
Akses dasbor
Anda harus menjadi pemilik organisasi atau memiliki izin Dasbor Penggunaan untuk mengakses Dasbor Penggunaan.
Tinjau penggunaan di dasbor
Buka Dasbor Penggunaan, pilih organisasi yang ingin ditinjau, lalu pilih periode pelaporan yang relevan.
Data dasbor ditampilkan dalam UTC. Perhatikan zona waktu tersebut saat membandingkan aktivitas dasbor dengan log aplikasi Anda.
Pilih proyek
Dasbor memiliki pemilih proyek tersendiri. Pemilih ini bekerja secara independen dari proyek yang dipilih di bagian lain Platform API.
Gunakan pemilih di dasbor untuk meninjau satu, beberapa, atau semua proyek. Untuk melihat data organisasi secara keseluruhan, hapus pilihan proyek. Jika tidak ada proyek yang dipilih, dasbor menampilkan data semua proyek.
Tinjau penggunaan masing-masing pengguna
Untuk meninjau penggunaan Responses dan Penyelesaian Chat oleh satu pengguna:
Di Dasbor Penggunaan, buka Kemampuan API > Responses dan Penyelesaian Chat.
Pilih Filter berdasarkan.
Di bagian Pengguna, pilih pengguna, lalu pilih Terapkan filter.
Lihat token per menit
Halaman detail penggunaan mendukung pemilihan interval. Pilih interval 1 menit untuk memeriksa token per menit (TPM).
Interval ini berlaku untuk data penggunaan, bukan data penagihan.
Ekspor data penggunaan
Tidak ada batasan rentang tanggal ekspor. Ekspor yang mencakup periode panjang dapat dibagi menjadi beberapa file.
Untuk rekonsiliasi faktur bulanan dan ekspor per item, lihat: Mengekspor detail penggunaan bulanan.
Lihat pemberian kredit
Detail pemberian kredit tersedia di halaman Penagihan organisasi Anda.
Pemberian kredit dan penggunaan API menjawab hal yang berbeda: pemberian kredit menunjukkan kredit yang terkait dengan organisasi Anda, sedangkan penggunaan menunjukkan aktivitas API organisasi.
Tinjau penggunaan dan biaya Tingkat Skala
Jika Tingkat Skala diaktifkan untuk organisasi Anda dan Anda memiliki akses yang diperlukan, buka halaman penggunaan Tingkat Skala untuk melihat detail penggunaan.
Biaya paket Tingkat Skala dibebankan kepada organisasi, bukan kepada masing-masing proyek.
Penggunaan lebih dari nol, tetapi pengeluaran proyek nol
Periksa apakah penggunaan model tercakup dalam alokasi Tingkat Skala Anda. Jika seluruh penggunaan model tersebut masih dalam alokasi TPM Tingkat Skala, proyek dapat menampilkan penggunaan tanpa pengeluaran model tambahan.
Biaya langganan Tingkat Skala tetap dibebankan pada tingkat organisasi. Untuk meninjaunya:
Hapus filter proyek di Dasbor Penggunaan.
Pilih Kategori pengeluaran.
Tinjau beberapa organisasi
Dasbor Penggunaan tidak menggabungkan data biaya atau penggunaan dari beberapa organisasi. Setiap organisasi, termasuk suborganisasi, diperlakukan secara terpisah.
Untuk melihat suborganisasi, pilih suborganisasi tersebut melalui pemilih organisasi.
Jika memerlukan laporan gabungan, pertimbangkan untuk menggunakan beberapa proyek dalam satu organisasi alih-alih suborganisasi terpisah, atau gunakan API Penggunaan untuk analisis khusus.
Periksa penggunaan token dalam respons API
Nama bidang penggunaan token bergantung pada endpoint.
| Jumlah token | Penyelesaian Chat | Responses |
| Token input | usage.prompt_tokens | usage.input_tokens |
| Token output | usage.completion_tokens | usage.output_tokens |
| Total token | usage.total_tokens | usage.total_tokens |
Misalnya, respons Penyelesaian Chat dapat mencakup:
| { "usage": { "prompt_tokens": 13, "completion_tokens": 7, "total_tokens": 20 }} |
Bergantung pada endpoint dan model, detail penggunaan juga dapat mencakup jumlah token input yang di-cache dan token penalaran. Detail ini membantu menjelaskan mengapa panjang respons yang terlihat tidak menunjukkan seluruh penggunaan tokennya.
Untuk penjelasan tentang berbagai kategori token, lihat: Memahami dan menghitung token.
Dapatkan data penggunaan dari Penyelesaian Chat yang dialirkan
Untuk permintaan Penyelesaian Chat secara streaming, sertakan:
| { "stream": true, "stream_options": { "include_usage": true }} |
Jika include_usage diaktifkan, potongan tambahan sebelum data: [DONE] akan memuat penggunaan untuk seluruh permintaan. Array choices di dalamnya kosong. Potongan lainnya memiliki nilai usage null.
Jika streaming terputus, Anda mungkin tidak menerima potongan penggunaan terakhir tersebut. Tidak adanya potongan terakhir bukan berarti permintaan tersebut tidak menggunakan token.
Konfigurasi ini khusus untuk Penyelesaian Chat. Untuk detailnya, lihat referensi API Penyelesaian Obrolan.