Pregled
Upotrebu API-ja možete pregledati na dva načina:
Na Nadzornoj ploči upotrebe pregledajte aktivnosti u trenutačnim i prošlim obračunskim razdobljima.
Za provjeru pojedinačnog zahtjeva pročitajte podatke o upotrebi u odgovoru API-ja.
Playground upotrebljava iste pozive API-ja kao i vaše aplikacije. Njegovi se tokeni ubrajaju u upotrebu API-ja na vašem računu te podliježu istim pravilima upotrebe i cijenama.
Pristup nadzornoj ploči
Za pristup Nadzornoj ploči upotrebe morate biti vlasnik organizacije ili imati dopuštenje Nadzorna ploča upotrebe.
Pregled upotrebe na nadzornoj ploči
Otvorite Nadzornu ploču upotrebe, odaberite organizaciju koju želite pregledati i odgovarajuće izvještajno razdoblje.
Podaci na nadzornoj ploči prikazuju se u UTC-u. Uzmite tu vremensku zonu u obzir pri usporedbi aktivnosti na nadzornoj ploči sa zapisnicima svoje aplikacije.
Odabir projekata
Nadzorna ploča ima vlastiti izbornik projekata. Radi neovisno o projektu odabranom drugdje na Platformi API.
Izbornikom na nadzornoj ploči pregledajte jedan, nekoliko ili sve projekte. Za prikaz ukupnih podataka organizacije poništite odabir projekata. Ako nije odabran nijedan projekt, na nadzornoj ploči prikazuju se podaci svih projekata.
Pregled upotrebe pojedinačnog korisnika
Za pregled upotrebe značajki Responses i Chat Completions jednog korisnika:
Na Nadzornoj ploči upotrebe otvorite Mogućnosti API-ja > Responses i Chat Completions.
Odaberite Filtriraj prema.
U odjeljku Korisnici odaberite korisnika, a zatim Primijeni filtre.
Prikaz tokena u minuti
Na stranicama s pojedinostima o upotrebi možete odabrati interval. Odaberite interval od jedne minute kako biste pregledali tokene u minuti (TPM).
Taj se interval primjenjuje na podatke o upotrebi, a ne na podatke o naplati.
Izvoz podataka o upotrebi
Nema ograničenja raspona datuma za izvoz. Izvozi koji obuhvaćaju dulje razdoblje mogu se podijeliti u više datoteka.
Za usklađivanje mjesečnih računa i izvoz pojedinačnih stavki pogledajte: Izvoz pojedinosti o mjesečnoj upotrebi.
Prikaz dodijeljenih kredita
Pojedinosti o dodijeljenim kreditima dostupne su na stranici Naplata vaše organizacije.
Dodijeljeni krediti i upotreba API-ja daju odgovore na različita pitanja: dodjela prikazuje kredite povezane s vašom organizacijom, a upotreba njezinu aktivnost API-ja.
Pregled upotrebe i troškova Razine skaliranja
Ako je Razina skaliranja omogućena za vašu organizaciju i imate potreban pristup, otvorite stranicu upotrebe Razine skaliranja za detaljan pregled upotrebe.
Troškovi paketa Razine skaliranja pripisuju se organizaciji, a ne pojedinačnim projektima.
Upotreba je veća od nule, ali trošak projekta iznosi nula
Provjerite je li upotreba modela obuhvaćena vašom dodjelom Razine skaliranja. Ako je sva upotreba tog modela unutar dodijeljenog TPM-a Razine skaliranja, projekt može prikazivati upotrebu bez dodatnih troškova modela.
Trošak pretplate na Razinu skaliranja ostaje na razini organizacije. Da biste ga pregledali:
Poništite filtar projekta na Nadzornoj ploči upotrebe.
Odaberite Kategorije troškova.
Pregled više organizacija
Nadzorna ploča upotrebe ne objedinjuje podatke o troškovima ili upotrebi iz više organizacija. Svaka organizacija, uključujući podorganizaciju, obrađuje se zasebno.
Za prikaz podorganizacije odaberite je u izborniku organizacija.
Ako trebate objedinjeno izvješćivanje, razmislite o upotrebi projekata unutar jedne organizacije umjesto zasebnih podorganizacija ili upotrijebite API za upotrebu za prilagođenu analizu.
Provjerite potrošnju tokena u odgovoru API-ja
Nazivi polja za potrošnju tokena ovise o krajnjoj točki.
| Broj tokena | Chat Completions | Responses |
|---|---|---|
| Ulazni tokeni | usage.prompt_tokens | usage.input_tokens |
| Izlazni tokeni | usage.completion_tokens | usage.output_tokens |
| Ukupno tokena | usage.total_tokens | usage.total_tokens |
Na primjer, odgovor Chat Completions može sadržavati:
{
"usage": {
"prompt_tokens": 13,
"completion_tokens": 7,
"total_tokens": 20
}
}Ovisno o krajnjoj točki i modelu, pojedinosti o potrošnji mogu uključivati i broj predmemoriranih ulaznih tokena te tokena za rasuđivanje. Ti podaci pomažu objasniti zašto vidljiva duljina odgovora ne odražava njegovu ukupnu potrošnju tokena.
Za objašnjenje različitih kategorija tokena pogledajte: Razumijevanje i brojanje tokena.
Dohvatite podatke o potrošnji pri strujanju odgovora Chat Completions
Za zahtjev Chat Completions sa strujanjem odgovora uključite:
{
"stream": true,
"stream_options": {
"include_usage": true
}
}Kad je omogućen include_usage, dodatni blok prije data: [DONE] sadrži podatke o potrošnji za cijeli zahtjev. Njegovo polje choices prazno je. U ostalim blokovima usage ima vrijednost null.
Ako se strujanje prekine, možda nećete primiti taj završni blok s podacima o potrošnji. Izostanak završnog bloka ne dokazuje da zahtjev nije potrošio nijedan token.
Ova konfiguracija vrijedi samo za Chat Completions. Za pojedinosti pogledajte: Referentna dokumentacija API-ja za dovršavanje razgovora.
