Просматривайте активность API на панели использования, проверяйте количество токенов в ответах API и узнайте, как работают фильтры проектов, экспорт и расходы Уровня производительности.

Обзор

Просмотреть использование API можно двумя способами:

На Панели использования можно просматривать активность за текущий и предыдущие расчетные периоды.
Чтобы проверить отдельный запрос, просмотрите сведения об использовании в ответе API.

Playground использует те же вызовы API, что и ваши приложения. Использованные в нем токены учитываются в использовании API вашей учетной записью по тем же правилам и тарифам.

Доступ к панели

Для доступа к панели использования нужно быть владельцем организации или иметь разрешение Панель использования.

Просмотр использования на панели

Откройте Панель использования, выберите нужную организацию и соответствующий отчетный период.

Данные на панели отображаются в часовом поясе UTC. Учитывайте этот часовой пояс при сравнении данных на панели с журналами приложения.

Выбор проектов

У панели есть собственный переключатель проектов. Он работает независимо от проекта, выбранного в других разделах Платформы API.

С помощью переключателя на панели можно просматривать один, несколько или все проекты. Чтобы просмотреть общие данные организации, отмените выбор проектов. Если ни один проект не выбран, на панели отображаются данные по всем проектам.

Просмотр данных об использовании отдельного пользователя

Чтобы просмотреть использование Responses и Завершений чата одним пользователем:

На панели использования выберите Возможности API > Responses и Завершения чата.
Выберите Фильтровать по.
В разделе Пользователи выберите пользователя, а затем — Применить фильтры.

Просмотр количества токенов в минуту

На страницах с подробными данными об использовании можно выбрать интервал. Выберите интервал в 1 минуту, чтобы проверить количество токенов в минуту (TPM).

Этот интервал применяется к данным об использовании, а не к платежным данным.

Экспорт данных об использовании

Диапазон дат для экспорта не ограничен. Данные за длительный период могут быть разделены на несколько файлов.

О сверке ежемесячных счетов и экспорте отдельных позиций см. в статье «Экспорт сведений об использовании за месяц».

Просмотр начисленных кредитов

Сведения о начисленных кредитах доступны на странице оплаты вашей организации.

Начисленные кредиты и использование API отражают разные данные: первые показывают кредиты организации, а второе — ее активность в API.

Просмотр использования и расходов Уровня производительности

Если в вашей организации включен Уровень производительности и у вас есть необходимые права доступа, откройте страницу использования Уровня производительности, чтобы просмотреть подробные данные.

Стоимость пакетов Уровня производительности относится к организации, а не к отдельным проектам.

Использование есть, но расходы проекта равны нулю

Проверьте, покрывается ли использование модели квотой Уровня производительности. Если использование этой модели не превышает квоту TPM Уровня производительности, в проекте может отображаться использование без дополнительных расходов на модель.

Стоимость подписки на Уровень производительности учитывается на уровне организации. Чтобы проверить ее:

Сбросьте фильтр проектов на панели использования.
Выберите Категории расходов.

Просмотр нескольких организаций

Панель использования не объединяет данные о расходах или использовании разных организаций. Каждая организация, включая дочернюю, рассматривается отдельно.

Чтобы просмотреть дочернюю организацию, выберите ее в переключателе организаций.

Если вам нужна сводная отчетность, используйте проекты в одной организации вместо отдельных дочерних организаций либо воспользуйтесь API использования для собственного анализа.

Проверка использования токенов в ответе API

Имена полей с данными об использовании токенов зависят от конечной точки.

Количество токенов	Chat Completions	Responses
Входные токены	usage.prompt_tokens	usage.input_tokens
Выходные токены	usage.completion_tokens	usage.output_tokens
Всего токенов	usage.total_tokens	usage.total_tokens

Например, ответ Chat Completions может содержать:

{
  "usage": {
    "prompt_tokens": 13,
    "completion_tokens": 7,
    "total_tokens": 20
  }
}

В зависимости от конечной точки и модели данные об использовании также могут включать количество кэшированных входных токенов и токенов рассуждений. Эти данные помогают понять, почему видимая длина ответа не отражает полный расход токенов.

Описание разных категорий токенов см. в статье «Что такое токены и как их подсчитывать».

Получение данных об использовании токенов в потоковых ответах Chat Completions

В потоковый запрос Chat Completions добавьте:

{
  "stream": true,
  "stream_options": {
    "include_usage": true
  }
}

Если параметр include_usage включен, перед data: [DONE] передается дополнительный фрагмент с данными об использовании токенов для всего запроса. Массив choices в этом фрагменте пуст. В остальных фрагментах поле usage имеет значение null.

Если поток прервется, вы можете не получить этот последний фрагмент с данными об использовании токенов. Отсутствие последнего фрагмента не означает, что при обработке запроса токены не использовались.

Эта настройка применяется только к Chat Completions. Подробнее см. в справочнике по API завершения чата.

Просмотр использования API и расходов