Přehled
Využití API můžete kontrolovat dvěma způsoby:
Na Panelu využití můžete zkontrolovat aktivitu v aktuálním i předchozích fakturačních obdobích.
Údaje o využití v odpovědi API umožňují zkontrolovat jednotlivý požadavek.
Playground používá stejná volání API jako vaše aplikace. Jeho tokeny se započítávají do využití API vašeho účtu a řídí se stejnými pravidly využití a cenami.
Přístup k panelu
Pro přístup k Panelu využití musíte být vlastníkem organizace nebo mít oprávnění Panel využití.
Kontrola využití na panelu
Otevřete Panel využití, vyberte organizaci, kterou chcete zkontrolovat, a zvolte příslušné vykazované období.
Data na panelu se zobrazují v časovém pásmu UTC. Při porovnávání aktivity na panelu s protokoly aplikace berte toto časové pásmo v úvahu.
Výběr projektů
Panel má vlastní nástroj pro výběr projektů. Funguje nezávisle na projektu vybraném jinde na Platformě API.
Pomocí nástroje pro výběr na panelu můžete zobrazit jeden projekt, několik projektů nebo všechny projekty. Chcete-li zobrazit souhrnná data organizace, zrušte výběr projektů. Pokud není vybrán žádný projekt, panel zobrazuje data všech projektů.
Kontrola využití jednotlivým uživatelem
Postup kontroly využití funkcí Responses a Chat Completions jedním uživatelem:
Na Panelu využití přejděte na Funkce API > Responses a Chat Completions.
Vyberte Filtrovat podle.
V části Uživatelé vyberte uživatele a poté možnost Použít filtry.
Zobrazení počtu tokenů za minutu
Na stránkách s podrobnostmi o využití lze vybrat interval. Chcete-li prozkoumat počet tokenů za minutu (TPM), vyberte interval 1 minuty.
Tento interval se vztahuje na data o využití, nikoli na fakturační údaje.
Export dat o využití
Rozsah dat pro export není nijak omezen. Exporty za delší období mohou být rozděleny do několika souborů.
Informace o párování měsíčních faktur a exportu jednotlivých položek najdete v článku Export podrobností o měsíčním využití.
Zobrazení přidělených kreditů
Podrobnosti o přidělených kreditech najdete na stránce Fakturace své organizace.
Přidělené kredity a využití API poskytují odlišné informace: přidělené kredity ukazují kredity spojené s vaší organizací, zatímco využití zobrazuje její aktivitu v API.
Kontrola využití a nákladů úrovně škálování
Pokud má vaše organizace aktivovanou úroveň škálování a máte potřebná oprávnění, otevřete si podrobné údaje na stránce využití úrovně škálování.
Náklady na balíčky úrovně škálování se připisují organizaci, nikoli jednotlivým projektům.
Využití je vyšší než nula, ale útrata projektu je nulová
Ověřte, zda využití modelu pokrývá vaše přidělená kapacita úrovně škálování. Pokud veškeré využití daného modelu nepřesahuje přidělenou kapacitu TPM úrovně škálování, může projekt vykazovat využití bez dalších výdajů za model.
Náklady na předplatné úrovně škálování zůstávají na úrovni organizace. Postup kontroly:
Na Panelu využití zrušte filtr projektů.
Vyberte Kategorie výdajů.
Kontrola více organizací
Panel využití neslučuje údaje o nákladech ani využití mezi organizacemi. Každá organizace včetně podřízené organizace se posuzuje samostatně.
Chcete-li zobrazit podřízenou organizaci, vyberte ji v nástroji pro výběr organizace.
Pokud potřebujete souhrnné přehledy, zvažte místo samostatných podřízených organizací použití projektů v rámci jedné organizace nebo pro vlastní analýzu použijte API pro využití.
Kontrola využití tokenů v odpovědi API
Názvy polí pro využití tokenů závisí na koncovém bodu.
| Počet tokenů | Chat Completions | Responses |
| Vstupní tokeny | usage.prompt_tokens | usage.input_tokens |
| Výstupní tokeny | usage.completion_tokens | usage.output_tokens |
| Celkový počet tokenů | usage.total_tokens | usage.total_tokens |
Odpověď Chat Completions může například obsahovat:
| { "usage": { "prompt_tokens": 13, "completion_tokens": 7, "total_tokens": 20 }} |
V závislosti na koncovém bodu a modelu mohou údaje o využití zahrnovat také počty tokenů ze vstupu v mezipaměti a tokenů uvažování. Tyto údaje pomáhají vysvětlit, proč viditelná délka odpovědi neodráží její celkové využití tokenů.
Vysvětlení různých kategorií tokenů najdete v článku Vysvětlení a počítání tokenů.
Získání údajů o využití ze streamovaných Chat Completions
Do streamovaného požadavku Chat Completions zahrňte:
| { "stream": true, "stream_options": { "include_usage": true }} |
Pokud je povolena možnost include_usage, obsahuje další blok před data: [DONE] údaje o využití za celý požadavek. Jeho pole choices je prázdné. Ostatní bloky mají u hodnoty usage uvedeno null.
Pokud je stream přerušen, nemusíte tento závěrečný blok s údaji o využití obdržet. Chybějící závěrečný blok neznamená, že požadavek nepoužil žádné tokeny.
Tato konfigurace je určena výhradně pro Chat Completions. Podrobnosti najdete v referenční dokumentaci API na dokončování chatu.