Огляд
Переглянути використання API можна двома способами:
На панелі використання можна переглянути активність за поточний і минулі розрахункові періоди.
Щоб перевірити окремий запит, перегляньте відомості про використання у відповіді API.
Playground використовує ті самі виклики API, що й ваші застосунки. Використані в ньому токени враховуються у використанні API вашого облікового запису й підпадають під ті самі правила та тарифи.
Доступ до панелі
Щоб отримати доступ до панелі використання, ви маєте бути власником організації або мати дозвіл Панель використання.
Перегляд використання на панелі
Відкрийте панель використання, виберіть організацію, дані якої потрібно переглянути, і відповідний звітний період.
Дані на панелі відображаються за часом UTC. Враховуйте цей часовий пояс, порівнюючи активність на панелі з журналами застосунку.
Вибір проєктів
Панель має власний засіб вибору проєктів. Він працює незалежно від проєкту, вибраного в інших розділах Платформи API.
За допомогою засобу вибору на панелі можна переглянути один, кілька або всі проєкти. Щоб переглянути загальні дані організації, скасуйте вибір проєктів. Якщо не вибрано жодного проєкту, на панелі відображаються дані всіх проєктів.
Перегляд використання окремим користувачем
Щоб переглянути використання Responses і Завершень чатів одним користувачем:
На панелі використання перейдіть до розділу Можливості API > Responses і Завершення чатів.
Виберіть Фільтрувати за.
У розділі Користувачі виберіть користувача, а потім — Застосувати фільтри.
Перегляд кількості токенів за хвилину
На сторінках із докладними даними про використання можна вибрати інтервал. Виберіть інтервал в 1 хвилину, щоб переглянути кількість токенів за хвилину (TPM).
Цей інтервал застосовується до даних про використання, а не до платіжних даних.
Експорт даних про використання
Діапазон дат для експорту не обмежено. Експорт даних за тривалий період може бути розділено на кілька файлів.
Відомості про щомісячну звірку рахунків і експорт окремих позицій див. у статті Експорт щомісячних даних про використання.
Перегляд наданих кредитів
Докладні відомості про надані кредити доступні на сторінці оплати вашої організації.
Надані кредити й використання API відповідають на різні запитання: перші показують кредити, пов’язані з вашою організацією, а друге — її активність в API.
Перегляд використання та вартості Рівня масштабування
Якщо для вашої організації ввімкнено Рівень масштабування й ви маєте необхідний доступ, відкрийте сторінку використання Рівня масштабування, щоб переглянути докладні дані.
Вартість пакетів Рівня масштабування відноситься до організації, а не до окремих проєктів.
Використання перевищує нуль, але витрати проєкту нульові
Перевірте, чи охоплює розподілений вам Рівень масштабування використання цієї моделі. Якщо все використання цієї моделі не перевищує розподілений обсяг TPM Рівня масштабування, у проєкті може відображатися використання без додаткових витрат на модель.
Вартість передплати на Рівень масштабування залишається на рівні організації. Щоб переглянути її:
Очистьте фільтр проєктів на панелі використання.
Виберіть Категорії витрат.
Перегляд кількох організацій
Панель використання не об’єднує дані про витрати або використання різних організацій. Кожна організація, зокрема дочірня, розглядається окремо.
Щоб переглянути дочірню організацію, виберіть її в засобі вибору організацій.
Якщо вам потрібна об’єднана звітність, використовуйте проєкти в межах однієї організації замість окремих дочірніх організацій або скористайтеся API використання для власного аналізу.
Перевірка використання токенів у відповіді API
Назви полів використання токенів залежать від кінцевої точки.
| Кількість токенів | Завершення чатів | Responses |
| Вхідні токени | usage.prompt_tokens | usage.input_tokens |
| Вихідні токени | usage.completion_tokens | usage.output_tokens |
| Загальна кількість токенів | usage.total_tokens | usage.total_tokens |
Наприклад, відповідь Завершень чатів може містити:
| { "usage": { "prompt_tokens": 13, "completion_tokens": 7, "total_tokens": 20 }} |
Залежно від кінцевої точки й моделі, докладні дані про використання також можуть містити кількість токенів кешованих вхідних даних і токенів міркування. Ці дані пояснюють, чому видима довжина відповіді не відображає повного використання токенів.
Пояснення різних категорій токенів див. у статті Розуміння та підрахунок токенів.
Отримання даних про використання з потокових Завершень чатів
До потокового запиту Завершень чатів додайте:
| { "stream": true, "stream_options": { "include_usage": true }} |
Якщо ввімкнено include_usage, додатковий фрагмент перед data: [DONE] міститиме дані про використання для всього запиту. Його масив choices буде порожнім. В інших фрагментах значення usage дорівнює null.
Якщо потік перерветься, ви можете не отримати цей останній фрагмент із даними про використання. Відсутність останнього фрагмента не означає, що запит не використав жодного токена.
Ця конфігурація призначена лише для Завершень чатів. Докладніше див. у довідці з API завершення чатів.