Общ преглед
Можете да преглеждате използването на API по два начина:
Използвайте таблото за използване, за да преглеждате активността през текущия и предходните периоди на таксуване.
Прегледайте информацията за използването в отговор от API, за да проверите отделна заявка.
Playground използва същите извиквания към API като приложенията ви. Използваните в него токени се отчитат към използването на API от профила ви и за тях важат същите правила и цени.
Достъп до таблото
За достъп до таблото за използване трябва да сте собственик на организацията или да имате разрешението Табло за използване.
Преглед на използването в таблото
Отворете таблото за използване, изберете организацията, която искате да прегледате, и посочете съответния отчетен период.
Данните в таблото се показват по UTC. Имайте предвид тази часова зона, когато сравнявате активността в таблото с регистрационните файлове на приложението си.
Избиране на проекти
Таблото разполага със собствен инструмент за избор на проекти. Той работи независимо от проекта, избран на друго място в API платформата.
Използвайте инструмента за избор в таблото, за да прегледате един, няколко или всички проекти. За да видите общите данни за организацията, изчистете избраните проекти. Когато не е избран проект, таблото показва данните за всички проекти.
Преглед на използването от отделен потребител
За да прегледате използването на Responses и Chat Completions от конкретен потребител:
В таблото за използване отворете Възможности на API > Responses и Chat Completions.
Изберете Филтриране по.
Под Потребители изберете потребителя, след което изберете Прилагане на филтрите.
Преглед на токените в минута
Страниците с подробности за използването позволяват избор на интервал. Изберете интервал от 1 минута, за да прегледате токените в минута (TPM).
Този интервал се отнася за данните за използването, а не за данните за таксуването.
Експортиране на данни за използването
Няма ограничение за периода от време при експортиране. Експортираните данни за дълъг период може да бъдат разделени в няколко файла.
За съгласуване на месечните фактури и експортиране на отделните позиции вижте: Експортиране на подробни данни за месечното използване.
Преглед на предоставените кредити
Подробности за предоставените кредити ще намерите на страницата за таксуване на организацията си.
Предоставените кредити и използването на API дават различна информация: първото показва кредитите, свързани с организацията ви, а второто — нейната активност в API.
Преглед на използването и разходите за Ниво на мащабиране
Ако за организацията ви е активирано Ниво на мащабиране и имате необходимия достъп, отворете страницата за използване на Ниво на мащабиране, за да видите подробни данни.
Разходите за пакетите за Ниво на мащабиране се отнасят към организацията, а не към отделните проекти.
Има регистрирано използване, но разходите по проекта са нулеви
Проверете дали използването на модела се покрива от разпределението ви за Ниво на мащабиране. Ако цялото използване на този модел е в рамките на разпределението на TPM за Ниво на мащабиране, проектът може да отчита използване без допълнителни разходи за модела.
Цената на абонамента за Ниво на мащабиране остава на ниво организация. За да я прегледате:
Изчистете филтъра за проекти в таблото за използване.
Изберете Категории разходи.
Преглед на няколко организации
Таблото за използване не обединява данните за разходите или използването на различни организации. Всяка организация, включително подорганизация, се разглежда отделно.
За да видите подорганизация, изберете я от инструмента за избор на организация.
Ако ви е необходимо обединено отчитане, обмислете използването на проекти в една организация вместо отделни подорганизации или използвайте API за използването за персонализиран анализ.
Проверка на използването на токени в отговор на API
Имената на полетата за използване на токени зависят от крайната точка.
| Брой токени | Chat Completions | Responses |
| Входни токени | usage.prompt_tokens | usage.input_tokens |
| Изходни токени | usage.completion_tokens | usage.output_tokens |
| Общ брой токени | usage.total_tokens | usage.total_tokens |
Например отговор от Chat Completions може да съдържа:
| { "usage": { "prompt_tokens": 13, "completion_tokens": 7, "total_tokens": 20 }} |
В зависимост от крайната точка и модела подробните данни за използването може да включват и броя на кешираните входни токени и токените за структурирано анализиране. Тези данни обясняват защо видимата дължина на отговора не показва пълното използване на токени.
За обяснение на различните категории токени вижте: Разбиране и броене на токените.
Получаване на данни за използването от поточно предавани Chat Completions
При заявка за поточно предаване към Chat Completions включете:
| { "stream": true, "stream_options": { "include_usage": true }} |
Когато include_usage е активирано, допълнителен фрагмент преди data: [DONE] съдържа данните за използването за цялата заявка. Неговият масив choices е празен. В останалите фрагменти стойността на usage е null.
Ако потокът бъде прекъснат, може да не получите последния фрагмент с данни за използването. Липсата на последен фрагмент не означава, че заявката не е използвала токени.
Тази конфигурация се отнася само за Chat Completions. За подробности вижте справочната документация за API за завършване на чат.