Обзор
Просмотреть использование API можно двумя способами:
Откройте Аналитика > Использование, чтобы просмотреть активность API за текущий и прошлые отчетные периоды.
Изучите сведения об использовании в ответе API, чтобы проверить отдельный запрос.
Playground использует те же вызовы API, что и ваши приложения. Токены Playground учитываются в использовании API вашей учетной записи, и к ним применяются те же правила использования и тарифы.
Доступ к панели
Для доступа к панели использования нужно быть владельцем организации или иметь разрешение Панель использования.
Просмотр использования на панели
На Платформе API откройте раздел Аналитика и выберите Использование, чтобы просмотреть данные текущего проекта. Для просмотра отчетов по всей организации выберите Аналитика организации. Выберите нужный отчетный период и проверьте его снова после переключения между аналитикой проекта и организации.
Время на панели указывается по UTC. Учитывайте этот часовой пояс при сравнении активности на панели с журналами приложения.
Недавнее использование может появляться на панели с задержкой. Если недавняя активность не отображается, проверьте еще раз позже.
Фильтрация данных об использовании
В разделе Аналитика проекта отображаются данные об использовании только для выбранного проекта. В разделе Аналитика организации выберите нужные проекты в поле Проект. Параметр Все проекты включает все проекты организации с учетом других выбранных фильтров.
В меню Фильтры можно ограничить данные об использовании по параметрам Источники API, Ключи API, Модели, Пользователи или Уровень обработки. В фильтре Источники API можно выбрать Все источники API, Agents API или Прямой доступ к API.
Снимите отдельные выбранные значения или нажмите Очистить фильтры, чтобы сбросить настройки панели Фильтры. Очистка фильтров не переключает аналитику между уровнем проекта и уровнем организации.
Нажмите Фильтр на графике Использование, чтобы отфильтровать данные по параметру Пакетная обработка. Нажмите Сбросить фильтры графика, чтобы сбросить фильтры этого графика.
Если функция не поддерживает выбранные фильтры, ее показатели могут быть недоступны. Недоступность показателей не означает, что использование равно нулю.
Если в фильтре отображается ошибка прав доступа, возможно, у вас нет доступа к его параметрам. Это не означает, что использование не было зарегистрировано.
Просмотр использования отдельным пользователем
Откройте Использование в разделе Аналитика нужного проекта или организации. В таблице Функции API нажмите Просмотреть в строке Ответы и завершения чата.
В меню Фильтры выберите Пользователи и укажите нужного пользователя. Результаты обновятся сразу.
Просмотрите график и таблицу для этого пользователя.
Чтобы просмотреть использование всех функций пользователем, примените фильтр Пользователи на обзорной странице Использование. Чтобы сравнить пользователей, очистите этот фильтр и выберите вкладку таблицы Пользователи.
Просмотр числа токенов за день, час или минуту
Если в разделе Использование доступен выбор интервала, выберите 1 д или 1 ч, чтобы просмотреть число токенов по дням или часам, либо 1 мин — для просмотра числа токенов в минуту (TPM). Выберите Авто, чтобы панель автоматически подобрала временной интервал для отчетного периода. Эти интервалы применяются к данным об использовании, а не к платежным данным.
Если вариант 1 мин недоступен, выберите более короткий отчетный период или включите Выделить для увеличения и выделите область графика, чтобы сузить диапазон. Затем выберите 1 мин. Нажмите Esc, чтобы отменить выделение области для увеличения. Нажмите на текущий диапазон дат на панели инструментов раздела Аналитика, чтобы выбрать другой отчетный период.
Просмотр графиков и таблиц использования
В меню Метрики выберите один или несколько рядов данных для совместного отображения, включая Входные токены, Некэшированные входные токены, Кэшированные входные токены, Входные токены, записанные в кэш, Входные аудиотокены, Выходные токены и Выходные аудиотокены. Доступные метрики зависят от функции. Обозначения рядов данных приведены в легенде.
В меню Группировать по можно сгруппировать данные об использовании по доступным категориям, например Проект, Пользователь или Модель. Фильтры определяют, какие данные об использовании будут включены, а группировка — как они будут отображаться. Переключайтесь между линейными графиками и столбчатыми диаграммами, чтобы изучать тенденции или сравнивать категории.
На вкладках таблицы Использование можно просмотреть доступные разбивки данных. В каждой строке таблицы приведены соответствующие показатели, например число запросов, входных и выходных токенов или единиц, характерных для конкретной функции.
В разделе Функции API нажмите Просмотреть рядом с нужной функцией, чтобы открыть подробные графики и разбивки данных. В разделе Ответы и завершения чата есть отдельные графики Токены и Запросы, а также метрика Запросы к модели. Вкладки с разбивками используют те же категории, что и обзор, но вкладки Функции API здесь нет. Чтобы вернуться к обзору, нажмите Использование в навигационной цепочке.
После выбора параметра Группировать по дополнительные категории на графике могут быть объединены в категорию Другое. Если в легенде графика есть пункт Другое, нажмите на него, чтобы увидеть входящие в него категории и их показатели использования.
Нажмите Сравнить панели, чтобы просмотреть панель Использование рядом с другой панелью за тот же отчетный период. Выберите нужные представления в полях Левая панель и Правая панель. Если выбранный временной интервал недоступен для этой пары панелей, включится режим Авто. Нажмите Выйти из сравнения, чтобы вернуться к панели.
Проверка неизвестной активности
Если в разделе Использование есть активность, которую не удается сопоставить с запросами в журналах вашего приложения, выполните следующие проверки:
Проверьте выбранную организацию, набор проектов и отчетный период. При сравнении временных меток на панели с журналами приложения используйте UTC.
Откройте представление нужного проекта или выберите его в поле Проект в разделе Аналитика организации. Затем с помощью меню Фильтры ограничьте данные об использовании по ключу API и модели и выберите более короткий отчетный период.
Сравните активность с журналами за тот же период, для того же проекта и ключа API. Проверьте, охватывают ли журналы все приложения и интеграции, использующие этот ключ.
Если несколько приложений или интеграций используют один проект или ключ API, по одному лишь общему показателю может быть невозможно определить, откуда поступил запрос. Сравните данные на панели с записями каждого приложения за тот же период по UTC.
Если выяснить источник использования по-прежнему не удается, обратитесь в службу поддержки OpenAI. Укажите период по UTC, идентификаторы организации и проекта, идентификатор ключа API и приложите соответствующие снимки экрана или журналы. Если доступны идентификаторы запросов, укажите и их. Не отправляйте секретные ключи API.
Экспорт данных об использовании
Чтобы экспортировать данные об использовании, нажмите значок Экспорт CSV на панели инструментов раздела Аналитика, затем выберите Данные об активности.
Выберите Функцию API и один или несколько параметров в меню Группировать по.
Проверьте параметры Источник API, Проекты, Пользователи, Ключи API и Модели. Параметры Проекты и Источник API уже выбраны в соответствии с настройками раздела Аналитика; остальные фильтры экспорта выберите в диалоговом окне.
Укажите Формат файла, Время начала, Время окончания и Временной интервал, затем нажмите Скачать. Для выбранных дат учитываются полные сутки по UTC.
Данные об активности и расходах доступны для просмотра и экспорта за период с 00:00 UTC даты, отстоящей от сегодняшней на один календарный год, по сегодняшний день. Чтобы получить более ранние данные, обратитесь в службу поддержки OpenAI. Данные с разбивкой по дням экспортируются в файлы, каждый из которых охватывает период до 31 дня.
О сверке ежемесячных счетов и экспорте отдельных позиций см. статью Экспорт подробных данных об использовании за месяц.
Если в экспортированных данных об активности есть строки с отрицательными значениями, сравните строки с одинаковыми единицами измерения, группировкой и датами. Суммы, включенные в счет, смотрите в разделе Данные о расходах. Сама по себе строка активности с отрицательным значением не подтверждает, что сумма вашего счета была уменьшена.
Просмотр расходов
Откройте раздел Аналитика и выберите Расходы, чтобы просмотреть затраты текущего проекта. Для просмотра затрат всей организации выберите Аналитика организации, а затем Расходы.
Прежде чем сравнивать расходы с использованием, проверьте текущий диапазон дат и фильтры. На панелях Использование и Расходы доступны разные фильтры: фильтр одной панели может быть неприменим к другой.
Используйте фильтры Источники API, Ключи API, Модели и Позиции счета, чтобы ограничить отображаемые расходы. В аналитике организации выберите нужные проекты в поле Проект. Доступные разбивки данных можно просмотреть на вкладках таблицы Позиции счета, Ключи API, Пользователи, Проекты и Модели.
Если значение лимита расходов недоступно, это не означает, что лимит равен нулю или что был установлен новый лимит. Значение может не отображаться из-за ограничений прав доступа, отсутствия заданного лимита или ошибки запроса.
Просмотр состояния сервиса
Если вашей организации доступна панель Состояние сервиса, откройте ее в разделе Аналитика, чтобы просмотреть показатели работы API. Условия доступа и определения метрик приведены в статье Устранение ошибок и задержек API.
Просмотр начисленных кредитов
Сведения о начисленных кредитах доступны на странице оплаты вашей организации.
Начисленные кредиты и использование API отражают разные данные: первые показывают кредиты вашей организации, а второе — ее активность в API.
Просмотр использования и расходов Уровня производительности
Если в вашей организации включен Уровень производительности и у вас есть необходимые права доступа, откройте страницу использования Уровня производительности, чтобы просмотреть подробные данные.
Стоимость пакетов Уровня производительности относится к организации, а не к отдельным проектам.
Использование больше нуля, но расходы проекта равны нулю
Проверьте, покрывается ли использование модели объемом, выделенным в рамках подписки «Уровень производительности». Если все использование этой модели укладывается в выделенный лимит токенов в минуту (TPM) подписки «Уровень производительности», в проекте может отображаться использование без дополнительных расходов на модель.
Стоимость подписки «Уровень производительности» по-прежнему учитывается на уровне организации. Проверяйте расходы всей организации, а не ориентируйтесь только на расходы отдельного проекта.
Просмотр данных нескольких организаций
Панель использования не объединяет данные о расходах или использовании разных организаций. Каждая организация, включая дочернюю, учитывается отдельно.
Чтобы просмотреть данные дочерней организации, выберите ее в меню выбора организации.
Если вам нужна сводная отчетность, рассмотрите возможность использования проектов внутри одной организации вместо отдельных дочерних организаций или воспользуйтесь Usage API для собственного анализа.
Проверка использования токенов в ответе API
Названия полей с данными об использовании токенов зависят от конечной точки.
| Число токенов | Chat Completions | Responses |
|---|---|---|
| Входные токены | usage.prompt_tokens | usage.input_tokens |
| Выходные токены | usage.completion_tokens | usage.output_tokens |
| Всего токенов | usage.total_tokens | usage.total_tokens |
Ответы Chat Completions могут содержать сведения об использовании токенов. Примеры:
{
"usage": {
"prompt_tokens": 13,
"completion_tokens": 7,
"total_tokens": 20
}
}В зависимости от конечной точки и модели сведения об использовании также могут включать количество кэшированных входных токенов и токенов рассуждений. Эти данные помогают понять, почему видимая длина ответа не отражает полный расход токенов.
Описание различных категорий токенов см. в статье Что такое токены и как их считать.
Если ответ на запрос транскрипции содержит сведения о расходе токенов, входные аудио- и текстовые токены уже включены в input_tokens. Не добавляйте их к общему числу входных токенов повторно. Сравнивайте output_tokens отдельно.
Получение данных об использовании токенов в потоковых ответах Chat Completions
В потоковый запрос Chat Completions добавьте:
{
"stream": true,
"stream_options": {
"include_usage": true
}
}Если параметр include_usage включен, перед data: [DONE] передается дополнительный фрагмент с данными об использовании токенов для всего запроса. Массив choices в этом фрагменте пуст. В остальных фрагментах поле usage имеет значение null.
Если поток прервется, вы можете не получить этот последний фрагмент с данными об использовании токенов. Отсутствие последнего фрагмента не означает, что при обработке запроса токены не использовались.
Эта настройка применяется только к Chat Completions. Подробнее см. в справочнике по API завершения чата.
