Обзор
Просмотреть использование API можно двумя способами:
На Панели использования можно просматривать активность за текущий и предыдущие расчетные периоды.
Чтобы проверить отдельный запрос, просмотрите сведения об использовании в ответе API.
Playground использует те же вызовы API, что и ваши приложения. Использованные в нем токены учитываются в использовании API вашей учетной записью по тем же правилам и тарифам.
Доступ к панели
Для доступа к панели использования нужно быть владельцем организации или иметь разрешение Панель использования.
Просмотр использования на панели
Откройте Панель использования, выберите нужную организацию и соответствующий отчетный период.
Данные на панели отображаются в часовом поясе UTC. Учитывайте этот часовой пояс при сравнении данных на панели с журналами приложения.
Выбор проектов
У панели есть собственный переключатель проектов. Он работает независимо от проекта, выбранного в других разделах Платформы API.
С помощью переключателя на панели можно просматривать один, несколько или все проекты. Чтобы просмотреть общие данные организации, отмените выбор проектов. Если ни один проект не выбран, на панели отображаются данные по всем проектам.
Просмотр данных об использовании отдельного пользователя
Чтобы просмотреть использование Responses и Завершений чата одним пользователем:
На панели использования выберите Возможности API > Responses и Завершения чата.
Выберите Фильтровать по.
В разделе Пользователи выберите пользователя, а затем — Применить фильтры.
Просмотр количества токенов в минуту
На страницах с подробными данными об использовании можно выбрать интервал. Выберите интервал в 1 минуту, чтобы проверить количество токенов в минуту (TPM).
Этот интервал применяется к данным об использовании, а не к платежным данным.
Экспорт данных об использовании
Диапазон дат для экспорта не ограничен. Данные за длительный период могут быть разделены на несколько файлов.
О сверке ежемесячных счетов и экспорте отдельных позиций см. в статье «Экспорт сведений об использовании за месяц».
Просмотр начисленных кредитов
Сведения о начисленных кредитах доступны на странице оплаты вашей организации.
Начисленные кредиты и использование API отражают разные данные: первые показывают кредиты организации, а второе — ее активность в API.
Просмотр использования и расходов Уровня производительности
Если в вашей организации включен Уровень производительности и у вас есть необходимые права доступа, откройте страницу использования Уровня производительности, чтобы просмотреть подробные данные.
Стоимость пакетов Уровня производительности относится к организации, а не к отдельным проектам.
Использование есть, но расходы проекта равны нулю
Проверьте, покрывается ли использование модели квотой Уровня производительности. Если использование этой модели не превышает квоту TPM Уровня производительности, в проекте может отображаться использование без дополнительных расходов на модель.
Стоимость подписки на Уровень производительности учитывается на уровне организации. Чтобы проверить ее:
Сбросьте фильтр проектов на панели использования.
Выберите Категории расходов.
Просмотр нескольких организаций
Панель использования не объединяет данные о расходах или использовании разных организаций. Каждая организация, включая дочернюю, рассматривается отдельно.
Чтобы просмотреть дочернюю организацию, выберите ее в переключателе организаций.
Если вам нужна сводная отчетность, используйте проекты в одной организации вместо отдельных дочерних организаций либо воспользуйтесь API использования для собственного анализа.
Проверка использования токенов в ответе API
Названия полей использования токенов зависят от конечной точки.
| Количество токенов | Завершения чата | Responses |
| Входные токены | usage.prompt_tokens | usage.input_tokens |
| Выходные токены | usage.completion_tokens | usage.output_tokens |
| Всего токенов | usage.total_tokens | usage.total_tokens |
Например, ответ Завершений чата может содержать:
| { "usage": { "prompt_tokens": 13, "completion_tokens": 7, "total_tokens": 20 }} |
В зависимости от конечной точки и модели подробные данные об использовании могут также включать количество кэшированных входных токенов и токенов рассуждений. Эти данные помогают понять, почему видимая длина ответа не отражает полного расхода токенов.
Описание различных категорий токенов см. в статье «Что такое токены и как их подсчитывать».
Получение данных об использовании из потоковых Завершений чата
В потоковый запрос Завершений чата добавьте:
| { "stream": true, "stream_options": { "include_usage": true }} |
Если параметр include_usage включен, дополнительный фрагмент перед data: [DONE] содержит данные об использовании для всего запроса. Его массив choices пуст. В остальных фрагментах значение usage равно null.
Если поток прервется, вы можете не получить этот последний фрагмент с данными об использовании. Отсутствие последнего фрагмента не означает, что запрос не использовал токены.
Эта конфигурация предназначена только для Завершений чата. Подробнее см. в справочнике по API завершения чата.