Для перекладу цієї сторінки виконано машинний переклад. Ви можете переглянути оригінальну статтю англійською.

Перегляд використання API та витрат

Переглядайте активність API в Аналітиці, перевіряйте кількість токенів у відповідях API та дізнайтеся про фільтри проєктів, експорт і витрати на Рівень масштабування.

Оновлено: 5 days ago

Огляд

Переглянути використання API можна двома способами:

  • Перейдіть у Аналітика > Використання, щоб переглянути активність API за поточний і минулі звітні періоди.

  • Перегляньте інформацію про використання у відповіді API, щоб перевірити окремий запит.

Playground використовує ті самі виклики API, що й ваші застосунки. Його токени враховуються у використанні API вашого облікового запису, і на них поширюються ті самі правила використання й тарифи.

Доступ до панелі

Щоб отримати доступ до панелі використання, ви маєте бути власником організації або мати дозвіл Панель використання.

Перегляд використання на панелі

На Платформі API відкрийте розділ Аналітика й виберіть Використання, щоб переглянути дані поточного проєкту. Щоб переглянути звітність для всієї організації, виберіть Аналітика організації. Виберіть потрібний звітний період і перевіряйте його після перемикання між аналітикою проєкту й організації.

Дані на панелі відображаються за UTC. Зважайте на цей часовий пояс, порівнюючи активність на панелі з журналами застосунку.

Нещодавнє використання може з’явитися на панелі із затримкою. Якщо нещодавня активність відсутня, перевірте ще раз пізніше.

Фільтрування даних використання

У розділі Аналітика проєкту дані використання охоплюють лише вибраний проєкт. У розділі Аналітика організації скористайтеся меню Проєкт, щоб вибрати проєкти для перегляду. Параметр Усі проєкти охоплює всі проєкти організації з урахуванням інших вибраних фільтрів.

У меню Фільтри обмежте дані використання за параметрами Джерела API, Ключі API, Моделі, Користувачі або Рівень обробки. У меню Джерела API можна вибрати Усі джерела API, API агентів або Прямий API.

Скасуйте вибір окремих значень або виберіть Очистити фільтри, щоб скинути налаштування на панелі Фільтри. Очищення фільтрів не перемикає між аналітикою проєкту й організації.

У меню Фільтр на графіку Використання відфільтруйте дані за параметром Пакетна обробка. Виберіть Скинути фільтри графіка, щоб скинути фільтри цього графіка.

Якщо функціональна можливість не підтримує вибрані фільтри, її значення можуть бути недоступні. Недоступність значень не означає нульове використання.

Якщо фільтр показує помилку дозволів, можливо, у вас немає доступу до його параметрів. Це не означає, що використання не було зафіксовано.

Перегляд використання окремого користувача

  1. Відкрийте панель Використання у розділі Аналітика потрібного проєкту або організації. У таблиці Можливості API виберіть Переглянути для пункту Відповіді та завершення чатів.

  2. У меню Фільтри виберіть Користувачі, а потім потрібного користувача. Результати оновлюються відразу.

  3. Перегляньте графік і таблицю для цього користувача.

Щоб переглянути дані користувача за різними функціональними можливостями, застосуйте фільтр Користувачі на оглядовій панелі Використання. Щоб порівняти користувачів, очистьте цей фільтр і виберіть вкладку таблиці Користувачі.

Перегляд токенів за день, годину або хвилину

Якщо на панелі Використання доступний вибір інтервалу, виберіть 1 д або 1 год, щоб переглянути токени за день чи годину, або 1 хв, щоб дослідити кількість токенів за хвилину (TPM). Виберіть Авто, щоб панель автоматично визначила часовий інтервал для вашого звітного періоду. Ці інтервали застосовуються до даних використання, а не до платіжних даних.

Якщо параметр 1 хв неактивний, виберіть коротший звітний період або скористайтеся функцією Виділити для збільшення й протягніть вказівник по графіку, щоб звузити діапазон. Потім виберіть 1 хв. Натисніть Esc, щоб скасувати виділення для збільшення. Виберіть поточний діапазон дат на панелі інструментів розділу Аналітика, щоб змінити звітний період.

Перегляд графіків і таблиць використання

У меню Показники виберіть один або кілька рядів даних для спільного відображення: Вхідні токени, Некешовані вхідні токени, Кешовані вхідні токени, Вхідні токени для запису в кеш, Вхідні аудіотокени, Вихідні токени та Вихідні аудіотокени. Доступні показники залежать від функціональної можливості. Визначайте кожен ряд даних за легендою.

У меню Групувати за упорядкуйте дані використання за доступними категоріями, як-от Проєкт, Користувач або Модель. Фільтри визначають, які дані використання включено, а групування — як їх відображено. Перемикайтеся між лінійними графіками та стовпчастими діаграмами, щоб досліджувати тенденції або порівнювати категорії.

На вкладках таблиці Використання переглядайте доступні розбивки даних. Для кожного рядка таблиці показано відповідні величини: наприклад, кількість запитів, вхідних і вихідних токенів або одиниць, характерних для певної функціональної можливості.

У розділі Можливості API виберіть Переглянути для потрібної можливості, щоб відкрити докладні графіки та розбивки даних. Розділ Відповіді та завершення чатів містить окремі графіки Токени й Запити, а також показник Запити до моделі. Його вкладки з розбивками даних використовують ті самі категорії, що й огляд, але без вкладки Можливості API. Щоб повернутися до огляду, виберіть Використання в навігаційному ланцюжку.

Після вибору параметра Групувати за додаткові категорії на графіку можуть об’єднуватися в категорію Інше. Якщо в легенді графіка є категорія Інше, виберіть її назву, щоб побачити включені категорії та їхні значення використання.

Виберіть Порівняти панелі, щоб переглянути панель Використання поруч з іншою панеллю за той самий звітний період. Виберіть потрібні подання в меню Ліва панель і Права панель. Якщо вибраний часовий інтервал недоступний для цієї пари панелей, подання перемикається в режим Авто. Виберіть Вийти з порівняння, щоб повернутися до панелі.

Перевірка незнайомої активності

Якщо на панелі Використання є активність, яку не вдається зіставити із запитами в журналах вашого застосунку, виконайте такі перевірки:

  1. Перевірте організацію, набір вибраних проєктів і звітний період. Порівнюючи часові позначки на панелі з журналами застосунку, використовуйте UTC.

  2. Відкрийте подання відповідного проєкту або виберіть його в меню Проєкт у розділі Аналітика організації. Потім за допомогою меню Фільтри обмежте дані використання за ключем API та моделлю й виберіть коротший звітний період.

  3. Порівняйте активність із журналами за той самий період, для того самого проєкту та ключа API. Перевірте, чи охоплюють ваші журнали всі застосунки або інтеграції, що використовують цей ключ.

  4. Якщо кілька застосунків або інтеграцій використовують спільний проєкт чи ключ API, лише за загальним показником може бути неможливо визначити, хто саме надіслав запит. Порівняйте дані панелі із записами кожного застосунку за той самий період у UTC.

  5. Якщо пояснити використання так і не вдалося, зверніться до служби підтримки OpenAI і надайте відповідний період у UTC, ідентифікатори організації та проєкту, ідентифікатор ключа API, а також відповідні знімки екрана або журнали. Додайте ідентифікатори запитів, якщо вони є. Не додавайте секретні ключі API.

Експорт даних використання

Щоб експортувати дані використання, виберіть піктограму Експорт CSV на панелі інструментів розділу Аналітика, а потім — Дані активності.

  1. Виберіть Можливість API та одну або кілька категорій у меню Групувати за.

  2. Перевірте параметри Джерело API, Проєкти, Користувачі, Ключі API та Моделі. Параметри Проєкти та Джерело API попередньо вибрано на основі розділу Аналітика; інші фільтри експорту виберіть у діалоговому вікні.

  3. Виберіть Формат файлу, Час початку, Час завершення та Часовий інтервал, а потім — Завантажити. Вибрані дати охоплюють повні доби за UTC.

Дані активності та витрат доступні для перегляду й експорту за період від 00:00 UTC дати рік тому до сьогодні. Щоб отримати давніші дані, зверніться до служби підтримки OpenAI. Щоденні дані експортуються у файли, кожен з яких охоплює період у 31 день.

Про звіряння щомісячних рахунків і експорт окремих позицій див. у статті Експорт щомісячних даних використання.

Якщо експорт даних активності містить рядки з від’ємними значеннями, порівняйте рядки з однаковими одиницями вимірювання, групуванням і датами. Щоб переглянути суми, виставлені до оплати, виберіть Дані витрат. Сам по собі рядок активності з від’ємним значенням не підтверджує, що суму вашого рахунку було зменшено.

Перегляд витрат

Відкрийте розділ Аналітика й виберіть Витрати, щоб переглянути витрати поточного проєкту. Щоб переглянути витрати всієї організації, виберіть Аналітика організації, а потім — Витрати.

Перш ніж порівнювати витрати з використанням, перевірте поточний діапазон дат і фільтри. Панелі Використання та Витрати мають різні фільтри: фільтр, доступний на одній панелі, може не застосовуватися до іншої.

Обмежте дані витрат за допомогою фільтрів Джерела API, Ключі API, Моделі та Позиції рахунку. В аналітиці організації скористайтеся меню Проєкт, щоб включити проєкти, які хочете переглянути. Переглядайте доступні розбивки даних на вкладках таблиці Позиції рахунку, Ключі API, Користувачі, Проєкти та Моделі.

Недоступність значення ліміту витрат не означає, що ваш ліміт дорівнює нулю або що застосовано новий ліміт. Значення може не відображатися на панелі через дозволи доступу, невстановлений ліміт або невдалий запит.

Перегляд стану сервісу

Якщо ваша організація має доступ до панелі Стан сервісу, відкрийте її в розділі Аналітика, щоб переглянути показники роботи API. Умови доступу та визначення показників наведено в статті Усунення помилок і затримок API.

Перегляд наданих кредитів

Відомості про надані кредити доступні на сторінці оплати вашої організації.

Надані кредити та використання API відображають різні аспекти: перші показують кредити, пов’язані з вашою організацією, а друге — її активність в API.

Перегляд використання та вартості Рівня масштабування

Якщо для вашої організації ввімкнено Рівень масштабування й ви маєте необхідний доступ, відкрийте сторінку використання Рівня масштабування, щоб переглянути докладні дані.

Вартість пакетів Рівня масштабування відноситься до організації, а не до окремих проєктів.

Використання більше нуля, але витрати проєкту нульові

Перевірте, чи покриває виділена вам квота Рівня масштабування використання моделі. Якщо все використання цієї моделі вкладається у квоту TPM Рівня масштабування, у проєкті може відображатися використання без додаткових витрат на модель.

Вартість підписки на Рівень масштабування й надалі обліковується на рівні організації. Переглядайте витрати всієї організації, а не покладайтеся лише на витрати окремого проєкту.

Перегляд даних кількох організацій

Панель використання не об’єднує дані витрат або використання різних організацій. Дані кожної організації, зокрема підорганізації, обліковуються окремо.

Щоб переглянути дані підорганізації, виберіть її в меню вибору організації.

Якщо вам потрібна зведена звітність, розгляньте можливість використання проєктів у межах однієї організації замість окремих підорганізацій або скористайтеся API використання для власного аналізу.

Перевірка використання токенів у відповіді API

Назви полів використання токенів залежать від кінцевої точки.

Кількість токенівЗавершення чатівВідповіді
Вхідні токениusage.prompt_tokensusage.input_tokens
Вихідні токениusage.completion_tokensusage.output_tokens
Загальна кількість токенівusage.total_tokensusage.total_tokens

Відповіді API завершення чатів можуть містити інформацію про використання токенів. Приклади:

{
"usage": {
"prompt_tokens": 13,
"completion_tokens": 7,
"total_tokens": 20
}
}

Залежно від кінцевої точки та моделі, дані про використання можуть також містити кількість кешованих вхідних токенів і токенів міркування. Ці дані допомагають пояснити, чому видима довжина відповіді не відображає повної кількості використаних токенів.

Пояснення різних категорій токенів див. у статті Що таке токени та як їх підраховувати.

У відповіді на запит транскрибування, яка містить дані про використання токенів, вхідні токени аудіо й тексту вже враховані в input_tokens. Не додавайте ці складові до загальної кількості вхідних токенів повторно. Порівнюйте output_tokens окремо.

Отримайте дані про використання токенів у потокових відповідях Chat Completions

До потокового запиту Chat Completions додайте:

{
"stream": true,
"stream_options": {
"include_usage": true
}
}

Якщо ввімкнено include_usage, додатковий фрагмент перед data: [DONE] містить дані про використання токенів для всього запиту. Його масив choices порожній. В інших фрагментах поле usage має значення null.

Якщо потік перерветься, ви можете не отримати цей останній фрагмент із даними про використання токенів. Відсутність останнього фрагмента не означає, що запит не використав жодного токена.

Це налаштування застосовується лише до Chat Completions. Докладніше див. у довіднику API завершення чатів.

Чи була ця стаття корисною?