Преглед
Користењето на API може да го прегледате на два начина:
Користете ја Контролната табла за користење за да ја прегледате активноста во тековниот и претходните периоди на наплата.
Прочитајте ги податоците за користењето во одговорот од API за да проверите поединечно барање.
Playground ги користи истите повици до API како и вашите апликации. Неговите токени се вбројуваат во користењето на API на вашата сметка и подлежат на истите правила за користење и цени.
Пристап до контролната табла
За да пристапите до Контролната табла за користење, мора да бидете сопственик на организацијата или да ја имате дозволата Контролна табла за користење.
Преглед на користењето во контролната табла
Отворете ја Контролната табла за користење, изберете ја организацијата што сакате да ја прегледате и одберете го соодветниот период за известување.
Податоците на контролната табла се прикажуваат во UTC. Имајте ја предвид таа временска зона кога ја споредувате активноста на контролната табла со дневниците на вашата апликација.
Избирање проекти
Контролната табла има сопствен избирач на проекти. Тој работи независно од проектот избран на друго место во API платформата.
Користете го избирачот на контролната табла за да прегледате еден, повеќе или сите проекти. За да ги видите вкупните податоци за организацијата, отстранете ги избраните проекти. Кога не е избран ниту еден проект, контролната табла ги прикажува податоците од сите проекти.
Преглед на користењето од поединечен корисник
За да го прегледате користењето на „Одговори“ и „Завршувања на разговори“ од еден корисник:
Во Контролната табла за користење, одете во Можности на API > Одговори и завршувања на разговори.
Изберете Филтрирај според.
Под Корисници, изберете го корисникот, а потоа изберете Примени филтри.
Преглед на токените во минута
Страниците со детали за користењето поддржуваат избор на интервал. Изберете интервал од 1 минута за да ги проверите токените во минута (TPM).
Овој интервал се применува на податоците за користењето, а не на податоците за наплатата.
Извезување податоци за користењето
Нема ограничување за временскиот опсег на извозот. Извозите што опфаќаат долг период може да бидат поделени во повеќе датотеки.
За усогласување на месечните фактури и извоз на поединечни ставки, видете: Извезување детали за месечното користење.
Преглед на доделените кредити
Деталите за доделените кредити се достапни на страницата за наплата на вашата организација.
Доделените кредити и користењето на API одговараат на различни прашања: првото ги прикажува кредитите поврзани со вашата организација, а второто нејзината активност на API.
Преглед на користењето и трошоците за Нивото на скалирање
Ако во вашата организација е овозможено Нивото на скалирање и го имате потребниот пристап, отворете ја страницата за користење на Нивото на скалирање за детални податоци.
Трошоците за пакетите на Нивото на скалирање ѝ се припишуваат на организацијата, а не на поединечните проекти.
Користењето е поголемо од нула, но трошокот на проектот е нула
Проверете дали користењето на моделот е покриено со вашата распределба на Нивото на скалирање. Ако целото користење на тој модел е во рамките на распределбата на TPM за Нивото на скалирање, проектот може да прикажува користење без дополнителен трошок за моделот.
Трошокот за претплатата за Нивото на скалирање останува на ниво на организацијата. За да го прегледате:
Исчистете го филтерот за проекти во Контролната табла за користење.
Изберете Категории на трошоци.
Преглед на повеќе организации
Контролната табла за користење не ги обединува податоците за трошоците или користењето од повеќе организации. Секоја организација, вклучувајќи ги и подорганизациите, се разгледува одделно.
За да прегледате подорганизација, изберете ја во избирачот на организации.
Ако ви треба обединет извештај, наместо одделни подорганизации, користете проекти во една организација или употребете го API за користење за приспособена анализа.
Проверка на користењето токени во одговор од API
Имињата на полињата за користење токени зависат од крајната точка.
| Број на токени | Завршувања на разговори | Одговори |
| Влезни токени | usage.prompt_tokens | usage.input_tokens |
| Излезни токени | usage.completion_tokens | usage.output_tokens |
| Вкупно токени | usage.total_tokens | usage.total_tokens |
На пример, одговор од Завршувања на разговори може да содржи:
| { "usage": { "prompt_tokens": 13, "completion_tokens": 7, "total_tokens": 20 }} |
Во зависност од крајната точка и моделот, деталите за користењето може да го содржат и бројот на токени од кешираниот влез и токени за расудување. Овие податоци објаснуваат зошто видливата должина на одговорот не го покажува целосното користење токени.
За објаснување на различните категории токени, видете: Разбирање и броење токени.
Добивање податоци за користењето од проследувани Завршувања на разговори
За проследувано барање за Завршувања на разговори, вклучете:
| { "stream": true, "stream_options": { "include_usage": true }} |
Кога е овозможено include_usage, дополнителен дел пред data: [DONE] ги содржи податоците за користењето за целото барање. Неговата низа choices е празна. Другите делови имаат вредност null за usage.
Ако проследувањето се прекине, можеби нема да го добиете последниот дел со податоците за користењето. Отсуството на последниот дел не значи дека барањето не користело токени.
Оваа конфигурација е специфична за Завршувања на разговори. За повеќе детали, видете ја референцата за API за завршување на разговори.