Prehľad
Používanie API môžete skontrolovať dvoma spôsobmi:
Pomocou panela používania skontrolujte aktivitu v aktuálnych aj minulých fakturačných obdobiach.
Ak chcete skontrolovať jednotlivú požiadavku, prečítajte si údaje o používaní v odpovedi API.
Playground používa rovnaké volania API ako vaše aplikácie. Jeho tokeny sa započítavajú do používania API vášho účtu a vzťahujú sa na ne rovnaké pravidlá používania a ceny.
Prístup k panelu
Ak chcete získať prístup k panelu používania, musíte byť vlastníkom organizácie alebo mať povolenie Panel používania.
Kontrola používania v paneli
Otvorte panel používania, vyberte organizáciu, ktorú chcete skontrolovať, a zvoľte príslušné obdobie vykazovania.
Údaje v paneli sa zobrazujú v časovom pásme UTC. Pri porovnávaní aktivity v paneli so záznamami aplikácie zohľadnite toto časové pásmo.
Výber projektov
Panel má vlastný nástroj na výber projektov. Funguje nezávisle od projektu vybraného na inom mieste v Platforme API.
Pomocou nástroja na výber v paneli môžete skontrolovať jeden, viacero alebo všetky projekty. Ak chcete zobraziť súhrnné údaje organizácie, zrušte výber projektov. Ak nie je vybraný žiadny projekt, panel zobrazuje údaje všetkých projektov.
Kontrola používania jednotlivým používateľom
Ak chcete skontrolovať, ako jeden používateľ používa Odpovede a Dokončovanie četu:
V paneli používania prejdite na Možnosti API > Odpovede a Dokončovanie četu.
Vyberte Filtrovať podľa.
V časti Používatelia vyberte používateľa a potom možnosť Použiť filtre.
Zobrazenie tokenov za minútu
Na stránkach s podrobnosťami o používaní môžete vybrať interval. Ak chcete preskúmať počet tokenov za minútu (TPM), vyberte 1-minútový interval.
Tento interval sa vzťahuje na údaje o používaní, nie na fakturačné údaje.
Export údajov o používaní
Rozsah dátumov exportu nie je obmedzený. Exporty za dlhé obdobie môžu byť rozdelené do viacerých súborov.
Informácie o mesačnom odsúhlasovaní faktúr a exporte jednotlivých položiek nájdete v článku Export podrobností o mesačnom používaní.
Zobrazenie pridelených kreditov
Podrobnosti o pridelených kreditoch nájdete na stránke Fakturácia vašej organizácie.
Pridelené kredity a používanie API poskytujú odlišné informácie: pridelené kredity zobrazujú kredity súvisiace s vašou organizáciou, zatiaľ čo používanie zobrazuje jej aktivitu API.
Kontrola používania a nákladov úrovne škálovania
Ak má vaša organizácia aktivovanú úroveň škálovania a máte požadovaný prístup, podrobné údaje nájdete na stránke používania úrovne škálovania.
Náklady na balíky úrovne škálovania sa priraďujú organizácii, nie jednotlivým projektom.
Používanie je vyššie ako nula, ale výdavky projektu sú nulové
Skontrolujte, či používanie modelu pokrýva váš pridelený limit úrovne škálovania. Ak celé používanie daného modelu neprekračuje pridelený limit TPM úrovne škálovania, projekt môže vykazovať používanie bez dodatočných výdavkov na model.
Náklady na predplatné úrovne škálovania zostávajú na úrovni organizácie. Ak ich chcete skontrolovať:
V paneli používania vymažte filter projektov.
Vyberte Kategórie výdavkov.
Kontrola viacerých organizácií
Panel používania nekombinuje údaje o nákladoch ani používaní z viacerých organizácií. Každá organizácia vrátane podorganizácie sa spracúva samostatne.
Ak chcete zobraziť podorganizáciu, vyberte ju pomocou nástroja na výber organizácie.
Ak potrebujete kombinované výkazy, zvážte použitie projektov v rámci jednej organizácie namiesto samostatných podorganizácií alebo použite API používania na vlastnú analýzu.
Kontrola používania tokenov v odpovedi API
Názvy polí používania tokenov závisia od koncového bodu.
| Počet tokenov | Dokončovanie četu | Odpovede |
| Vstupné tokeny | usage.prompt_tokens | usage.input_tokens |
| Výstupné tokeny | usage.completion_tokens | usage.output_tokens |
| Celkový počet tokenov | usage.total_tokens | usage.total_tokens |
Odpoveď dokončovania četu môže napríklad obsahovať:
| { "usage": { "prompt_tokens": 13, "completion_tokens": 7, "total_tokens": 20 }} |
V závislosti od koncového bodu a modelu môžu podrobnosti o používaní zahŕňať aj počty tokenov vstupu z vyrovnávacej pamäte a tokenov uvažovania. Tieto údaje pomáhajú vysvetliť, prečo viditeľná dĺžka odpovede nezodpovedá jej celkovému používaniu tokenov.
Vysvetlenie jednotlivých kategórií tokenov nájdete v článku Vysvetlenie a počítanie tokenov.
Získanie údajov o používaní zo streamovaného dokončovania četu
Do požiadavky na streamované dokončovanie četu zahrňte:
| { "stream": true, "stream_options": { "include_usage": true }} |
Ak je aktivované include_usage, ďalší blok pred data: [DONE] obsahuje údaje o používaní pre celú požiadavku. Jeho pole choices je prázdne. Ostatné bloky majú hodnotu usage nastavenú na null.
Ak sa stream preruší, tento záverečný blok s údajmi o používaní nemusíte dostať. Chýbajúci záverečný blok neznamená, že požiadavka nepoužila žiadne tokeny.
Táto konfigurácia je určená výhradne na dokončovanie četu. Podrobnosti nájdete v referenčnej dokumentácii API na dokončovanie četu.