Прегледајте ја активноста на API во Контролната табла за користење, проверете го бројот на токени во одговорите на API и дознајте како функционираат филтрите за проекти, извозите и трошоците за Нивото на скалирање.

Преглед

Користењето на API може да го прегледате на два начина:

Користете ја Контролната табла за користење за да ја прегледате активноста во тековниот и претходните периоди на наплата.
Прочитајте ги податоците за користењето во одговорот од API за да проверите поединечно барање.

Playground ги користи истите повици до API како и вашите апликации. Неговите токени се вбројуваат во користењето на API на вашата сметка и подлежат на истите правила за користење и цени.

Пристап до контролната табла

За да пристапите до Контролната табла за користење, мора да бидете сопственик на организацијата или да ја имате дозволата Контролна табла за користење.

Преглед на користењето во контролната табла

Отворете ја Контролната табла за користење, изберете ја организацијата што сакате да ја прегледате и одберете го соодветниот период за известување.

Податоците на контролната табла се прикажуваат во UTC. Имајте ја предвид таа временска зона кога ја споредувате активноста на контролната табла со дневниците на вашата апликација.

Избирање проекти

Контролната табла има сопствен избирач на проекти. Тој работи независно од проектот избран на друго место во API платформата.

Користете го избирачот на контролната табла за да прегледате еден, повеќе или сите проекти. За да ги видите вкупните податоци за организацијата, отстранете ги избраните проекти. Кога не е избран ниту еден проект, контролната табла ги прикажува податоците од сите проекти.

Преглед на користењето од поединечен корисник

За да го прегледате користењето на „Одговори“ и „Завршувања на разговори“ од еден корисник:

Во Контролната табла за користење, одете во Можности на API > Одговори и завршувања на разговори.
Изберете Филтрирај според.
Под Корисници, изберете го корисникот, а потоа изберете Примени филтри.

Преглед на токените во минута

Страниците со детали за користењето поддржуваат избор на интервал. Изберете интервал од 1 минута за да ги проверите токените во минута (TPM).

Овој интервал се применува на податоците за користењето, а не на податоците за наплатата.

Извезување податоци за користењето

Нема ограничување за временскиот опсег на извозот. Извозите што опфаќаат долг период може да бидат поделени во повеќе датотеки.

За усогласување на месечните фактури и извоз на поединечни ставки, видете: Извезување детали за месечното користење.

Преглед на доделените кредити

Деталите за доделените кредити се достапни на страницата за наплата на вашата организација.

Доделените кредити и користењето на API одговараат на различни прашања: првото ги прикажува кредитите поврзани со вашата организација, а второто нејзината активност на API.

Преглед на користењето и трошоците за Нивото на скалирање

Ако во вашата организација е овозможено Нивото на скалирање и го имате потребниот пристап, отворете ја страницата за користење на Нивото на скалирање за детални податоци.

Трошоците за пакетите на Нивото на скалирање ѝ се припишуваат на организацијата, а не на поединечните проекти.

Користењето е поголемо од нула, но трошокот на проектот е нула

Проверете дали користењето на моделот е покриено со вашата распределба на Нивото на скалирање. Ако целото користење на тој модел е во рамките на распределбата на TPM за Нивото на скалирање, проектот може да прикажува користење без дополнителен трошок за моделот.

Трошокот за претплатата за Нивото на скалирање останува на ниво на организацијата. За да го прегледате:

Исчистете го филтерот за проекти во Контролната табла за користење.
Изберете Категории на трошоци.

Преглед на повеќе организации

Контролната табла за користење не ги обединува податоците за трошоците или користењето од повеќе организации. Секоја организација, вклучувајќи ги и подорганизациите, се разгледува одделно.

За да прегледате подорганизација, изберете ја во избирачот на организации.

Ако ви треба обединет извештај, наместо одделни подорганизации, користете проекти во една организација или употребете го API за користење за приспособена анализа.

Проверете ја потрошувачката на токени во одговор од API

Имињата на полињата за потрошувачка на токени зависат од крајната точка.

Број на токени	Chat Completions	Responses
Влезни токени	usage.prompt_tokens	usage.input_tokens
Излезни токени	usage.completion_tokens	usage.output_tokens
Вкупно токени	usage.total_tokens	usage.total_tokens

На пример, одговор од Chat Completions може да содржи:

{
  "usage": {
    "prompt_tokens": 13,
    "completion_tokens": 7,
    "total_tokens": 20
  }
}

Во зависност од крајната точка и моделот, деталите за потрошувачката може да го вклучуваат и бројот на кеширани влезни токени и токени за расудување. Овие податоци помагаат да се објасни зошто видливата должина на одговорот не ја одразува вкупната потрошувачка на токени.

За објаснување на различните категории токени, видете: Разбирање и броење на токените.

Добијте податоци за потрошувачката од Chat Completions со стримување

За барање до Chat Completions со стримување, вклучете:

{
  "stream": true,
  "stream_options": {
    "include_usage": true
  }
}

Кога е овозможено include_usage, дополнителен блок пред data: [DONE] ги содржи податоците за потрошувачката за целото барање. Неговата низа choices е празна. Во другите блокови, usage има вредност null.

Ако стримувањето се прекине, можеби нема да го добиете последниот блок со податоци за потрошувачката. Отсуството на последниот блок не значи дека за барањето не биле потрошени токени.

Оваа конфигурација важи само за Chat Completions. За повеќе детали, видете: Референтна документација за API за завршување на разговори.

Преглед на користењето на API и трошоците