Kontrolujte aktivitu API na Panelu využití a počty tokenů v odpovědích API a seznamte se s filtry projektů, exporty a náklady úrovně škálování.

Přehled

Využití API můžete kontrolovat dvěma způsoby:

Na Panelu využití můžete zkontrolovat aktivitu v aktuálním i předchozích fakturačních obdobích.
Údaje o využití v odpovědi API umožňují zkontrolovat jednotlivý požadavek.

Playground používá stejná volání API jako vaše aplikace. Jeho tokeny se započítávají do využití API vašeho účtu a řídí se stejnými pravidly využití a cenami.

Přístup k panelu

Pro přístup k Panelu využití musíte být vlastníkem organizace nebo mít oprávnění Panel využití.

Kontrola využití na panelu

Otevřete Panel využití, vyberte organizaci, kterou chcete zkontrolovat, a zvolte příslušné vykazované období.

Data na panelu se zobrazují v časovém pásmu UTC. Při porovnávání aktivity na panelu s protokoly aplikace berte toto časové pásmo v úvahu.

Výběr projektů

Panel má vlastní nástroj pro výběr projektů. Funguje nezávisle na projektu vybraném jinde na Platformě API.

Pomocí nástroje pro výběr na panelu můžete zobrazit jeden projekt, několik projektů nebo všechny projekty. Chcete-li zobrazit souhrnná data organizace, zrušte výběr projektů. Pokud není vybrán žádný projekt, panel zobrazuje data všech projektů.

Kontrola využití jednotlivým uživatelem

Postup kontroly využití funkcí Responses a Chat Completions jedním uživatelem:

Na Panelu využití přejděte na Funkce API > Responses a Chat Completions.
Vyberte Filtrovat podle.
V části Uživatelé vyberte uživatele a poté možnost Použít filtry.

Zobrazení počtu tokenů za minutu

Na stránkách s podrobnostmi o využití lze vybrat interval. Chcete-li prozkoumat počet tokenů za minutu (TPM), vyberte interval 1 minuty.

Tento interval se vztahuje na data o využití, nikoli na fakturační údaje.

Export dat o využití

Rozsah dat pro export není nijak omezen. Exporty za delší období mohou být rozděleny do několika souborů.

Informace o párování měsíčních faktur a exportu jednotlivých položek najdete v článku Export podrobností o měsíčním využití.

Zobrazení přidělených kreditů

Podrobnosti o přidělených kreditech najdete na stránce Fakturace své organizace.

Přidělené kredity a využití API poskytují odlišné informace: přidělené kredity ukazují kredity spojené s vaší organizací, zatímco využití zobrazuje její aktivitu v API.

Kontrola využití a nákladů úrovně škálování

Pokud má vaše organizace aktivovanou úroveň škálování a máte potřebná oprávnění, otevřete si podrobné údaje na stránce využití úrovně škálování.

Náklady na balíčky úrovně škálování se připisují organizaci, nikoli jednotlivým projektům.

Využití je vyšší než nula, ale útrata projektu je nulová

Ověřte, zda využití modelu pokrývá vaše přidělená kapacita úrovně škálování. Pokud veškeré využití daného modelu nepřesahuje přidělenou kapacitu TPM úrovně škálování, může projekt vykazovat využití bez dalších výdajů za model.

Náklady na předplatné úrovně škálování zůstávají na úrovni organizace. Postup kontroly:

Na Panelu využití zrušte filtr projektů.
Vyberte Kategorie výdajů.

Kontrola více organizací

Panel využití neslučuje údaje o nákladech ani využití mezi organizacemi. Každá organizace včetně podřízené organizace se posuzuje samostatně.

Chcete-li zobrazit podřízenou organizaci, vyberte ji v nástroji pro výběr organizace.

Pokud potřebujete souhrnné přehledy, zvažte místo samostatných podřízených organizací použití projektů v rámci jedné organizace nebo pro vlastní analýzu použijte API pro využití.

Kontrola využití tokenů v odpovědi API

Názvy polí s údaji o využití tokenů závisí na koncovém bodu.

Počet tokenů	Chat Completions	Responses
Vstupní tokeny	usage.prompt_tokens	usage.input_tokens
Výstupní tokeny	usage.completion_tokens	usage.output_tokens
Tokeny celkem	usage.total_tokens	usage.total_tokens

Odpověď Chat Completions může například obsahovat:

{
  "usage": {
    "prompt_tokens": 13,
    "completion_tokens": 7,
    "total_tokens": 20
  }
}

V závislosti na koncovém bodu a modelu mohou podrobnosti o využití zahrnovat také počty vstupních tokenů uložených v mezipaměti a tokenů pro uvažování. Tyto údaje pomáhají vysvětlit, proč délka viditelné části odpovědi neodráží celkový počet použitých tokenů.

Vysvětlení jednotlivých kategorií tokenů najdete v článku Co jsou tokeny a jak je počítat.

Získání údajů o využití tokenů při streamování Chat Completions

Do požadavku na Chat Completions se streamováním zahrňte:

{
  "stream": true,
  "stream_options": {
    "include_usage": true
  }
}

Pokud je zapnutá volba include_usage, před data: [DONE] se odešle další blok s údaji o využití tokenů za celý požadavek. Jeho pole choices je prázdné. V ostatních blocích má usage hodnotu null.

Pokud se stream přeruší, tento závěrečný blok s údaji o využití tokenů nemusíte obdržet. Chybějící závěrečný blok neprokazuje, že požadavek nespotřeboval žádné tokeny.

Toto nastavení platí pouze pro Chat Completions. Podrobnosti najdete v referenční dokumentaci API na dokončování chatu.

Kontrola využití a nákladů API