Pregled
Upotrebu API-ja možete pregledati na dva načina:
Na Nadzornoj ploči upotrebe pregledajte aktivnosti u trenutačnim i prošlim obračunskim razdobljima.
Za provjeru pojedinačnog zahtjeva pročitajte podatke o upotrebi u odgovoru API-ja.
Playground upotrebljava iste pozive API-ja kao i vaše aplikacije. Njegovi se tokeni ubrajaju u upotrebu API-ja na vašem računu te podliježu istim pravilima upotrebe i cijenama.
Pristup nadzornoj ploči
Za pristup Nadzornoj ploči upotrebe morate biti vlasnik organizacije ili imati dopuštenje Nadzorna ploča upotrebe.
Pregled upotrebe na nadzornoj ploči
Otvorite Nadzornu ploču upotrebe, odaberite organizaciju koju želite pregledati i odgovarajuće izvještajno razdoblje.
Podaci na nadzornoj ploči prikazuju se u UTC-u. Uzmite tu vremensku zonu u obzir pri usporedbi aktivnosti na nadzornoj ploči sa zapisnicima svoje aplikacije.
Odabir projekata
Nadzorna ploča ima vlastiti izbornik projekata. Radi neovisno o projektu odabranom drugdje na Platformi API.
Izbornikom na nadzornoj ploči pregledajte jedan, nekoliko ili sve projekte. Za prikaz ukupnih podataka organizacije poništite odabir projekata. Ako nije odabran nijedan projekt, na nadzornoj ploči prikazuju se podaci svih projekata.
Pregled upotrebe pojedinačnog korisnika
Za pregled upotrebe značajki Responses i Chat Completions jednog korisnika:
Na Nadzornoj ploči upotrebe otvorite Mogućnosti API-ja > Responses i Chat Completions.
Odaberite Filtriraj prema.
U odjeljku Korisnici odaberite korisnika, a zatim Primijeni filtre.
Prikaz tokena u minuti
Na stranicama s pojedinostima o upotrebi možete odabrati interval. Odaberite interval od jedne minute kako biste pregledali tokene u minuti (TPM).
Taj se interval primjenjuje na podatke o upotrebi, a ne na podatke o naplati.
Izvoz podataka o upotrebi
Nema ograničenja raspona datuma za izvoz. Izvozi koji obuhvaćaju dulje razdoblje mogu se podijeliti u više datoteka.
Za usklađivanje mjesečnih računa i izvoz pojedinačnih stavki pogledajte: Izvoz pojedinosti o mjesečnoj upotrebi.
Prikaz dodijeljenih kredita
Pojedinosti o dodijeljenim kreditima dostupne su na stranici Naplata vaše organizacije.
Dodijeljeni krediti i upotreba API-ja daju odgovore na različita pitanja: dodjela prikazuje kredite povezane s vašom organizacijom, a upotreba njezinu aktivnost API-ja.
Pregled upotrebe i troškova Razine skaliranja
Ako je Razina skaliranja omogućena za vašu organizaciju i imate potreban pristup, otvorite stranicu upotrebe Razine skaliranja za detaljan pregled upotrebe.
Troškovi paketa Razine skaliranja pripisuju se organizaciji, a ne pojedinačnim projektima.
Upotreba je veća od nule, ali trošak projekta iznosi nula
Provjerite je li upotreba modela obuhvaćena vašom dodjelom Razine skaliranja. Ako je sva upotreba tog modela unutar dodijeljenog TPM-a Razine skaliranja, projekt može prikazivati upotrebu bez dodatnih troškova modela.
Trošak pretplate na Razinu skaliranja ostaje na razini organizacije. Da biste ga pregledali:
Poništite filtar projekta na Nadzornoj ploči upotrebe.
Odaberite Kategorije troškova.
Pregled više organizacija
Nadzorna ploča upotrebe ne objedinjuje podatke o troškovima ili upotrebi iz više organizacija. Svaka organizacija, uključujući podorganizaciju, obrađuje se zasebno.
Za prikaz podorganizacije odaberite je u izborniku organizacija.
Ako trebate objedinjeno izvješćivanje, razmislite o upotrebi projekata unutar jedne organizacije umjesto zasebnih podorganizacija ili upotrijebite API za upotrebu za prilagođenu analizu.
Provjera upotrebe tokena u odgovoru API-ja
Nazivi polja za upotrebu tokena ovise o krajnjoj točki.
| Broj tokena | Chat Completions | Responses |
| Ulazni tokeni | usage.prompt_tokens | usage.input_tokens |
| Izlazni tokeni | usage.completion_tokens | usage.output_tokens |
| Ukupno tokena | usage.total_tokens | usage.total_tokens |
Na primjer, odgovor značajke Chat Completions može sadržavati:
| { "usage": { "prompt_tokens": 13, "completion_tokens": 7, "total_tokens": 20 }} |
Ovisno o krajnjoj točki i modelu, pojedinosti o upotrebi mogu uključivati i broj tokena predmemoriranog unosa te tokena za rasuđivanje. Ti podaci pomažu objasniti zašto vidljiva duljina odgovora ne prikazuje njegovu potpunu upotrebu tokena.
Objašnjenje različitih kategorija tokena potražite ovdje: Razumijevanje i brojanje tokena.
Dohvaćanje podataka o upotrebi iz strujanih Chat Completionsa
Za strujani zahtjev za Chat Completions uključite:
| { "stream": true, "stream_options": { "include_usage": true }} |
Kada je include_usage omogućen, dodatni dio prije data: [DONE] sadrži podatke o upotrebi za cijeli zahtjev. Njegov niz choices prazan je. Ostali dijelovi imaju vrijednost null za usage.
Ako se strujanje prekine, možda nećete primiti taj završni dio s podacima o upotrebi. Izostanak završnog dijela ne znači da zahtjev nije upotrijebio tokene.
Ova je konfiguracija specifična za Chat Completions. Pojedinosti potražite u referenci za API za dovršavanje razgovora.