Обзор
Просмотреть использование API можно двумя способами:
На Панели использования можно просматривать активность за текущий и предыдущие расчетные периоды.
Чтобы проверить отдельный запрос, просмотрите сведения об использовании в ответе API.
Playground использует те же вызовы API, что и ваши приложения. Использованные в нем токены учитываются в использовании API вашей учетной записью по тем же правилам и тарифам.
Доступ к панели
Для доступа к панели использования нужно быть владельцем организации или иметь разрешение Панель использования.
Просмотр использования на панели
Откройте Панель использования, выберите нужную организацию и соответствующий отчетный период.
Данные на панели отображаются в часовом поясе UTC. Учитывайте этот часовой пояс при сравнении данных на панели с журналами приложения.
Выбор проектов
На панели есть отдельный элемент выбора проектов. Он работает независимо от того, какой проект выбран в других разделах Платформы API.
С его помощью можно просматривать данные по одному, нескольким или всем проектам. Чтобы увидеть общие данные по организации, снимите выбор со всех проектов. Если ни один проект не выбран, на панели отображаются данные по всем проектам.
Если несколько приложений используют один проект или ключ API, по суммарным данным этого проекта или ключа нельзя определить, какое приложение отправило запрос. Сопоставьте свои записи запросов за тот же период по UTC.
Просмотр данных об использовании отдельного пользователя
Чтобы просмотреть использование Responses и Завершений чата одним пользователем:
На панели использования выберите Возможности API > Responses и Завершения чата.
Выберите Фильтровать по.
В разделе Пользователи выберите пользователя, а затем — Применить фильтры.
Просмотр количества токенов в минуту
На страницах с подробными данными об использовании можно выбрать интервал. Выберите интервал в 1 минуту, чтобы проверить количество токенов в минуту (TPM).
Этот интервал применяется к данным об использовании, а не к платежным данным.
Экспорт данных об использовании
Диапазон дат для экспорта не ограничен. При экспорте за длительный период данные могут быть разбиты на несколько файлов.
О сверке ежемесячных счетов и экспорте данных по отдельным позициям см. статью Экспорт ежемесячных сведений об использовании.
Если в экспорте данных об активности есть строки с отрицательными значениями, сравните строки с одинаковыми единицами измерения, группировкой и датами. Чтобы узнать суммы, выставленные к оплате, используйте данные о расходах. Сама по себе строка активности с отрицательным значением не подтверждает, что сумма вашего счета была уменьшена.
Просмотр начисленных кредитов
Сведения о начисленных кредитах доступны на странице оплаты вашей организации.
Начисленные кредиты и использование API отражают разные данные: первые показывают кредиты организации, а второе — ее активность в API.
Просмотр использования и расходов Уровня производительности
Если в вашей организации включен Уровень производительности и у вас есть необходимые права доступа, откройте страницу использования Уровня производительности, чтобы просмотреть подробные данные.
Стоимость пакетов Уровня производительности относится к организации, а не к отдельным проектам.
Использование есть, но расходы проекта равны нулю
Проверьте, покрывается ли использование модели квотой Уровня производительности. Если использование этой модели не превышает квоту TPM Уровня производительности, в проекте может отображаться использование без дополнительных расходов на модель.
Стоимость подписки на Уровень производительности учитывается на уровне организации. Чтобы проверить ее:
Сбросьте фильтр проектов на панели использования.
Выберите Категории расходов.
Просмотр нескольких организаций
Панель использования не объединяет данные о расходах или использовании разных организаций. Каждая организация, включая дочернюю, рассматривается отдельно.
Чтобы просмотреть дочернюю организацию, выберите ее в переключателе организаций.
Если вам нужна сводная отчетность, используйте проекты в одной организации вместо отдельных дочерних организаций либо воспользуйтесь API использования для собственного анализа.
Проверка использования токенов в ответе API
Имена полей с данными об использовании токенов зависят от конечной точки.
| Количество токенов | Chat Completions | Responses |
|---|---|---|
| Входные токены | usage.prompt_tokens | usage.input_tokens |
| Выходные токены | usage.completion_tokens | usage.output_tokens |
| Всего токенов | usage.total_tokens | usage.total_tokens |
Например, ответ Chat Completions может содержать:
{
"usage": {
"prompt_tokens": 13,
"completion_tokens": 7,
"total_tokens": 20
}
}В зависимости от конечной точки и модели сведения об использовании также могут включать количество кэшированных входных токенов и токенов рассуждений. Эти данные помогают понять, почему видимая длина ответа не отражает полный расход токенов.
Описание различных категорий токенов см. в статье Что такое токены и как их считать.
Если ответ на запрос транскрипции содержит сведения о расходе токенов, входные аудио- и текстовые токены уже включены в input_tokens. Не добавляйте их к общему числу входных токенов повторно. Сравнивайте output_tokens отдельно.
Получение данных об использовании токенов в потоковых ответах Chat Completions
В потоковый запрос Chat Completions добавьте:
{
"stream": true,
"stream_options": {
"include_usage": true
}
}Если параметр include_usage включен, перед data: [DONE] передается дополнительный фрагмент с данными об использовании токенов для всего запроса. Массив choices в этом фрагменте пуст. В остальных фрагментах поле usage имеет значение null.
Если поток прервется, вы можете не получить этот последний фрагмент с данными об использовании токенов. Отсутствие последнего фрагмента не означает, что при обработке запроса токены не использовались.
Эта настройка применяется только к Chat Completions. Подробнее см. в справочнике по API завершения чата.