Přehled
Využití API můžete kontrolovat dvěma způsoby:
Na Panelu využití můžete zkontrolovat aktivitu v aktuálním i předchozích fakturačních obdobích.
Údaje o využití v odpovědi API umožňují zkontrolovat jednotlivý požadavek.
Playground používá stejná volání API jako vaše aplikace. Jeho tokeny se započítávají do využití API vašeho účtu a řídí se stejnými pravidly využití a cenami.
Přístup k panelu
Pro přístup k Panelu využití musíte být vlastníkem organizace nebo mít oprávnění Panel využití.
Kontrola využití na panelu
Otevřete Panel využití, vyberte organizaci, kterou chcete zkontrolovat, a zvolte příslušné vykazované období.
Data na panelu se zobrazují v časovém pásmu UTC. Při porovnávání aktivity na panelu s protokoly aplikace berte toto časové pásmo v úvahu.
Výběr projektů
Přehled má vlastní nástroj pro výběr projektů. Ten funguje nezávisle na projektu vybraném jinde na Platformě API.
Pomocí tohoto nástroje v přehledu si můžete zobrazit údaje pro jeden projekt, několik projektů nebo všechny projekty. Chcete-li zobrazit souhrnné údaje za celou organizaci, zrušte výběr projektů. Pokud není vybrán žádný projekt, přehled zobrazuje údaje všech projektů.
Pokud více aplikací používá stejný projekt nebo klíč API, ze souhrnných údajů za daný projekt či klíč nelze určit, která aplikace odeslala požadavek. Porovnejte své vlastní záznamy požadavků za stejné období v UTC.
Kontrola využití jednotlivým uživatelem
Postup kontroly využití funkcí Responses a Chat Completions jedním uživatelem:
Na Panelu využití přejděte na Funkce API > Responses a Chat Completions.
Vyberte Filtrovat podle.
V části Uživatelé vyberte uživatele a poté možnost Použít filtry.
Zobrazení počtu tokenů za minutu
Na stránkách s podrobnostmi o využití lze vybrat interval. Chcete-li prozkoumat počet tokenů za minutu (TPM), vyberte interval 1 minuty.
Tento interval se vztahuje na data o využití, nikoli na fakturační údaje.
Export údajů o využití
Délka období pro export není omezena. Exporty za delší období mohou být rozděleny do více souborů.
Informace o kontrole měsíčních faktur a exportu jednotlivých položek najdete v článku Export podrobných údajů o měsíčním využití.
Pokud export aktivity obsahuje řádky se zápornými hodnotami, porovnávejte řádky se stejnou jednotkou, seskupením a daty. Vyúčtované částky najdete v údajích o nákladech. Samotný řádek aktivity se zápornou hodnotou neprokazuje, že byl k vaší faktuře vystaven dobropis.
Zobrazení přidělených kreditů
Podrobnosti o přidělených kreditech najdete na stránce Fakturace své organizace.
Přidělené kredity a využití API poskytují odlišné informace: přidělené kredity ukazují kredity spojené s vaší organizací, zatímco využití zobrazuje její aktivitu v API.
Kontrola využití a nákladů úrovně škálování
Pokud má vaše organizace aktivovanou úroveň škálování a máte potřebná oprávnění, otevřete si podrobné údaje na stránce využití úrovně škálování.
Náklady na balíčky úrovně škálování se připisují organizaci, nikoli jednotlivým projektům.
Využití je vyšší než nula, ale útrata projektu je nulová
Ověřte, zda využití modelu pokrývá vaše přidělená kapacita úrovně škálování. Pokud veškeré využití daného modelu nepřesahuje přidělenou kapacitu TPM úrovně škálování, může projekt vykazovat využití bez dalších výdajů za model.
Náklady na předplatné úrovně škálování zůstávají na úrovni organizace. Postup kontroly:
Na Panelu využití zrušte filtr projektů.
Vyberte Kategorie výdajů.
Kontrola více organizací
Panel využití neslučuje údaje o nákladech ani využití mezi organizacemi. Každá organizace včetně podřízené organizace se posuzuje samostatně.
Chcete-li zobrazit podřízenou organizaci, vyberte ji v nástroji pro výběr organizace.
Pokud potřebujete souhrnné přehledy, zvažte místo samostatných podřízených organizací použití projektů v rámci jedné organizace nebo pro vlastní analýzu použijte API pro využití.
Kontrola využití tokenů v odpovědi API
Názvy polí s údaji o využití tokenů závisí na koncovém bodu.
| Počet tokenů | Chat Completions | Responses |
|---|---|---|
| Vstupní tokeny | usage.prompt_tokens | usage.input_tokens |
| Výstupní tokeny | usage.completion_tokens | usage.output_tokens |
| Tokeny celkem | usage.total_tokens | usage.total_tokens |
Odpověď Chat Completions může například obsahovat:
{
"usage": {
"prompt_tokens": 13,
"completion_tokens": 7,
"total_tokens": 20
}
}V závislosti na koncovém bodu a modelu mohou podrobné údaje o využití zahrnovat také počty vstupních tokenů z mezipaměti a tokenů pro uvažování. Tyto údaje pomáhají vysvětlit, proč viditelná délka odpovědi neodráží celkový počet spotřebovaných tokenů.
Vysvětlení jednotlivých kategorií tokenů najdete v článku Co jsou tokeny a jak je počítat.
Pokud odpověď s přepisem uvádí spotřebu tokenů, vstupní zvukové a textové tokeny jsou již zahrnuty v input_tokens. Nepřičítejte je znovu k celkovému počtu vstupních tokenů. Hodnotu output_tokens porovnávejte samostatně.
Získání údajů o využití tokenů při streamování Chat Completions
Do požadavku na Chat Completions se streamováním zahrňte:
{
"stream": true,
"stream_options": {
"include_usage": true
}
}Pokud je zapnutá volba include_usage, před data: [DONE] se odešle další blok s údaji o využití tokenů za celý požadavek. Jeho pole choices je prázdné. V ostatních blocích má usage hodnotu null.
Pokud se stream přeruší, tento závěrečný blok s údaji o využití tokenů nemusíte obdržet. Chybějící závěrečný blok neprokazuje, že požadavek nespotřeboval žádné tokeny.
Toto nastavení platí pouze pro Chat Completions. Podrobnosti najdete v referenční dokumentaci API na dokončování chatu.