Táto stránka bola strojovo preložená. Prečítaj si pôvodný článok v angličtine.

Kontrola používania API a nákladov

Pozrite si aktivitu API v Analytike, skontrolujte počty tokenov v odpovediach API a oboznámte sa s filtrami projektov, exportmi a nákladmi úrovne škálovania.

Aktualizované: 3 days ago

Prehľad

Využitie API môžete skontrolovať dvoma spôsobmi:

  • V časti Analytika > Využitie si pozrite aktivitu API za aktuálne aj minulé vykazované obdobia.

  • Ak chcete skontrolovať jednotlivú požiadavku, prečítajte si informácie o využití v odpovedi API.

Playground používa rovnaké volania API ako vaše aplikácie. Jeho tokeny sa započítavajú do využitia API vášho účtu a vzťahujú sa na ne rovnaké pravidlá používania aj ceny.

Prístup k panelu

Ak chcete získať prístup k panelu používania, musíte byť vlastníkom organizácie alebo mať povolenie Panel používania.

Kontrola využitia na paneli

Na Platforme API otvorte časť Analytika a vyberte možnosť Využitie, aby ste skontrolovali aktuálny projekt. Ak chcete zobraziť údaje za celú organizáciu, vyberte možnosť Analytika organizácie. Vyberte vykazované obdobie, ktoré chcete skontrolovať, a po prepnutí medzi analytikou projektu a organizácie ho znova overte.

Údaje na paneli sa zobrazujú v UTC. Pri porovnávaní aktivity na paneli s protokolmi aplikácie majte toto časové pásmo na pamäti.

Zobrazenie nedávneho využitia na paneli môže chvíľu trvať. Ak nedávna aktivita chýba, skúste to znova neskôr.

Filtrovanie využitia

V projektovej časti Analytika sa údaje o využití obmedzujú na vybraný projekt. V časti Analytika organizácie vyberte pomocou možnosti Projekt projekty, ktoré chcete skontrolovať. Možnosť Všetky projekty zahŕňa každý projekt v organizácii, pričom zohľadňuje všetky ostatné vybrané filtre.

Pomocou možnosti Filtre obmedzte využitie podľa položiek Zdroje API, Kľúče API, Modely, Používatelia alebo Úroveň spracovania. Položka Zdroje API umožňuje vybrať možnosti Všetky zdroje API, API agentov alebo Priame API.

Odstráňte jednotlivé výbery alebo vyberte možnosť Vymazať filtre, čím obnovíte pôvodný stav panela Filtre. Vymazaním filtrov sa neprepína medzi analytikou projektu a organizácie.

Pomocou možnosti Filter v grafe Využitie môžete filtrovať podľa položky Dávka. Výberom možnosti Obnoviť filtre grafu obnovíte pôvodný stav filtrov daného grafu.

Ak funkcia nepodporuje vybrané filtre, jej hodnoty nemusia byť dostupné. Nedostupné hodnoty neznamenajú nulové využitie.

Ak filter zobrazuje chybu oprávnení, možno nemáte prístup k jeho možnostiam. To neznamená, že nebolo zaznamenané žiadne využitie.

Kontrola využitia jednotlivého používateľa

  1. Otvorte časť Využitie v zobrazení Analytika projektu alebo organizácie, ktoré chcete skontrolovať. V tabuľke Funkcie API vyberte možnosť Zobraziť pri položke Odpovede a dokončovanie četu.

  2. V časti Filtre vyberte položku Používatelia a zvoľte používateľa. Výsledky sa okamžite aktualizujú.

  3. Skontrolujte graf a tabuľku daného používateľa.

Ak chcete skontrolovať využitie používateľa naprieč funkciami, použite filter Používatelia v súhrne Využitie. Ak chcete porovnať používateľov, vymažte tento filter a vyberte kartu tabuľky Používatelia.

Zobrazenie tokenov za deň, hodinu alebo minútu

Ak sú v časti Využitie dostupné ovládacie prvky intervalu, vyberte možnosť 1d alebo 1h na zobrazenie tokenov za deň alebo hodinu, prípadne možnosť 1m na kontrolu tokenov za minútu (TPM). Vyberte možnosť Automaticky, aby panel zvolil časový interval pre vaše vykazované obdobie. Tieto intervaly sa vzťahujú na údaje o využití, nie na fakturačné údaje.

Ak je možnosť 1m neaktívna, vyberte kratšie vykazované obdobie alebo použite možnosť Priblížiť výberom a potiahnutím cez graf zúžte rozsah. Potom vyberte možnosť 1m. Stlačením klávesu Esc zrušíte výber na priblíženie. Ak chcete zvoliť iné vykazované obdobie, vyberte aktuálny rozsah dátumov na paneli s nástrojmi v časti Analytika.

Kontrola grafov a tabuliek využitia

Pomocou možnosti Metriky vyberte jeden alebo viac dátových radov, ktoré chcete zobraziť spoločne, vrátane metrík Vstupné tokeny, Vstupné tokeny mimo vyrovnávacej pamäte, Vstupné tokeny vo vyrovnávacej pamäti, Vstupné tokeny zapisované do vyrovnávacej pamäte, Vstupné zvukové tokeny, Výstupné tokeny a Výstupné zvukové tokeny. Dostupné metriky závisia od funkcie. Jednotlivé dátové rady rozlíšite pomocou legendy.

Pomocou možnosti Zoskupiť podľa usporiadajte využitie podľa kategórií, ako sú Projekt, Používateľ alebo Model, ak sú dostupné. Filtre určujú, ktoré údaje o využití sa zahrnú; zoskupenie určuje, ako sa zobrazia. Prepínajte medzi čiarovými a stĺpcovými grafmi, aby ste mohli sledovať trendy alebo porovnávať kategórie.

Na kartách tabuľky Využitie si pozrite dostupné členenia. Tabuľky v každom riadku zobrazujú príslušné ukazovatele, napríklad požiadavky, vstupné a výstupné tokeny alebo jednotky špecifické pre danú funkciu.

V časti Funkcie API vyberte pri danej funkcii možnosť Zobraziť, čím otvoríte jej podrobné grafy a členenia. Časť Odpovede a dokončovanie četu obsahuje samostatné grafy Tokeny a Požiadavky a metriku Požiadavky na model. Jej karty členenia používajú rovnaké dimenzie ako súhrn, no neobsahujú kartu Funkcie API. Pomocou položky Využitie v navigačnej ceste sa vrátite na súhrn.

Po výbere možnosti Zoskupiť podľa môže graf zlúčiť ďalšie kategórie do kategórie Ostatné. Ak sa v legende grafu zobrazí kategória Ostatné, výberom jej názvu zobrazíte zahrnuté kategórie a ich hodnoty využitia.

Vyberte možnosť Porovnať panely a zobrazte panel Využitie vedľa iného panela za rovnaké vykazované obdobie. Zobrazenia vyberte pomocou možností Ľavý panel a Pravý panel. Ak vybraný časový interval nie je pre danú dvojicu panelov dostupný, zobrazenie sa prepne na možnosť Automaticky. Výberom možnosti Ukončiť porovnávanie sa vrátite na panel.

Preverenie neznámeho využitia

Ak panel Využitie zobrazuje aktivitu, ktorú neviete priradiť k požiadavkám v protokoloch aplikácie, vykonajte tieto kontroly:

  1. Overte organizáciu, zahrnuté projekty a vykazované obdobie. Pri porovnávaní časových pečiatok na paneli s protokolmi aplikácie používajte UTC.

  2. Otvorte zobrazenie príslušného projektu alebo ho vyberte v položke Projekt v časti Analytika organizácie. Potom pomocou možnosti Filtre obmedzte využitie podľa kľúča API a modelu a vyberte kratšie vykazované obdobie.

  3. Porovnajte aktivitu s protokolmi za rovnaké obdobie, projekt a kľúč API. Skontrolujte, či protokoly pokrývajú všetky aplikácie alebo integrácie, ktoré používajú daný kľúč.

  4. Ak viacero aplikácií alebo integrácií zdieľa rovnaký projekt alebo kľúč API, samotný súčet nemusí odhaliť, ktorá z nich odoslala požiadavku. Porovnajte údaje na paneli so záznamami z každej aplikácie za rovnaké obdobie v UTC.

  5. Ak stále neviete vysvetliť dané využitie, kontaktujte podporu OpenAI a uveďte príslušné obdobie v UTC, ID organizácie a projektu, identifikátor kľúča API a relevantné snímky obrazovky alebo protokoly. Ak sú dostupné ID požiadaviek, priložte ich. Neuvádzajte tajné kľúče API.

Export údajov o využití

Ak chcete exportovať údaje o využití, vyberte ikonu Exportovať CSV na paneli s nástrojmi v časti Analytika a potom vyberte možnosť Údaje o aktivite.

  1. Vyberte položku Funkcia API a jednu alebo viac dimenzií v možnosti Zoskupiť podľa.

  2. Skontrolujte položky Zdroj API, Projekty, Používatelia, Kľúče API a Modely. Položky Projekty a Zdroj API sú predvolené podľa nastavení v časti Analytika; ostatné filtre exportu vyberte v dialógovom okne.

  3. Vyberte možnosti Formát súboru, Čas začiatku, Čas konca a Časový interval a potom vyberte možnosť Stiahnuť. Dátumy zahŕňajú celé dni v UTC.

Údaje o aktivite a nákladoch možno zobraziť a exportovať za obdobie od 00:00 UTC dňa spred jedného kalendárneho roka až po dnešok. Ak potrebujete staršie údaje, kontaktujte podporu OpenAI. Denné údaje sa exportujú do súborov po 31-dňových úsekoch.

Informácie o zosúladení údajov s mesačnou faktúrou a exporte jednotlivých položiek nájdete v článku: Export mesačných podrobností o využití.

Ak export aktivity obsahuje riadky so zápornými hodnotami, porovnajte riadky s rovnakou jednotkou, zoskupením a dátumami. Fakturované sumy nájdete v časti Údaje o nákladoch. Samotný riadok aktivity so zápornou hodnotou nepotvrdzuje, že bol k vašej faktúre vystavený dobropis.

Kontrola výdavkov

Otvorte časť Analytika a vyberte možnosť Výdavky, aby ste skontrolovali náklady aktuálneho projektu. Ak chcete zobraziť náklady za celú organizáciu, vyberte možnosť Analytika organizácie a potom Výdavky.

Pred porovnaním nákladov s využitím skontrolujte aktuálny rozsah dátumov a filtre. Panely Využitie a Výdavky ponúkajú odlišné filtre; filter dostupný na jednom paneli sa nemusí vzťahovať na druhý.

Pomocou položiek Zdroje API, Kľúče API, Modely a Jednotlivé položky obmedzte zobrazené výdavky. V analytike organizácie zahrňte pomocou možnosti Projekt projekty, ktoré chcete skontrolovať. Dostupné členenia nájdete na kartách tabuľky Jednotlivé položky, Kľúče API, Používatelia, Projekty a Modely.

Nedostupná hodnota limitu výdavkov neznamená, že váš limit je nulový alebo že bol nastavený nový limit. Prístupové oprávnenia, nenastavený limit alebo neúspešná požiadavka môžu brániť zobrazeniu hodnoty na paneli.

Kontrola stavu služby

Ak má vaša organizácia prístup k panelu Stav služby, otvorte ho v časti Analytika a skontrolujte výkonnosť API. Podmienky prístupu a definície metrík nájdete v článku: Riešenie chýb a latencie API.

Zobrazenie pridelených kreditov

Podrobnosti o pridelených kreditoch nájdete na stránke Fakturácia svojej organizácie.

Pridelené kredity a využitie API poskytujú odlišné informácie: pridelené kredity zobrazujú kredity spojené s vašou organizáciou, zatiaľ čo využitie zobrazuje jej aktivitu API.

Kontrola používania a nákladov úrovne škálovania

Ak má vaša organizácia aktivovanú úroveň škálovania a máte požadovaný prístup, podrobné údaje nájdete na stránke používania úrovne škálovania.

Náklady na balíky úrovne škálovania sa priraďujú organizácii, nie jednotlivým projektom.

Využitie je vyššie ako nula, ale výdavky projektu sú nulové

Skontrolujte, či využitie modelu pokrýva vaša pridelená kapacita v rámci úrovne škálovania. Ak je celé využitie daného modelu v rámci prideleného počtu tokenov za minútu (TPM) úrovne škálovania, projekt môže vykazovať využitie bez dodatočných výdavkov na model.

Náklady na predplatné úrovne škálovania zostávajú na úrovni organizácie. Skontrolujte výdavky za celú organizáciu namiesto toho, aby ste sa spoliehali na výdavky jednotlivého projektu.

Kontrola viacerých organizácií

Panel Využitie nekombinuje údaje o nákladoch ani využití z viacerých organizácií. Každá organizácia vrátane podriadenej organizácie sa posudzuje samostatne.

Ak chcete zobraziť podriadenú organizáciu, vyberte ju v ponuke na výber organizácie.

Ak potrebujete spoločné výkazy, zvážte používanie projektov v rámci jednej organizácie namiesto samostatných podriadených organizácií alebo na vlastnú analýzu použite API využitia.

Kontrola využitia tokenov v odpovedi API

Názvy polí s údajmi o využití tokenov závisia od koncového bodu.

Počet tokenovDokončovanie četuOdpovede
Vstupné tokenyusage.prompt_tokensusage.input_tokens
Výstupné tokenyusage.completion_tokensusage.output_tokens
Celkový počet tokenovusage.total_tokensusage.total_tokens

Odpovede pri dokončovaní četu môžu obsahovať informácie o využití tokenov. Príklady:

{
"usage": {
"prompt_tokens": 13,
"completion_tokens": 7,
"total_tokens": 20
}
}

V závislosti od koncového bodu a modelu môžu podrobné údaje o využívaní zahŕňať aj počty vstupných tokenov z vyrovnávacej pamäte a tokenov uvažovania. Tieto údaje pomáhajú vysvetliť, prečo viditeľná dĺžka odpovede neodráža celkový počet spotrebovaných tokenov.

Vysvetlenie jednotlivých kategórií tokenov nájdete v článku Čo sú tokeny a ako sa počítajú.

Ak odpoveď na požiadavku na prepis uvádza spotrebu tokenov, zvukové aj textové vstupné tokeny sú už zahrnuté v hodnote input_tokens. Tieto zložky už znova nepripočítavajte k celkovému počtu vstupných tokenov. Hodnotu output_tokens porovnávajte samostatne.

Získanie údajov o spotrebe pri streamovaní Chat Completions

Do požiadavky na streamovanie Chat Completions zahrňte:

{
"stream": true,
"stream_options": {
"include_usage": true
}
}

Ak je zapnutá možnosť include_usage, pred data: [DONE] sa odošle dodatočný blok s údajmi o spotrebe za celú požiadavku. Jeho pole choices je prázdne. V ostatných blokoch má usage hodnotu null.

Ak sa streamovanie preruší, tento záverečný blok s údajmi o spotrebe nemusíte dostať. Chýbajúci záverečný blok neznamená, že požiadavka nespotrebovala žiadne tokeny.

Toto nastavenie platí len pre Chat Completions. Podrobnosti nájdete v referenčnej dokumentácii API na dokončovanie četu.

Bol tento článok užitočný?