Pregledajte aktivnosti API-ja na Kontrolnoj tabli korištenja, provjerite broj tokena u odgovorima API-ja te saznajte više o filterima projekata, izvozu i troškovima Nivoa skale.

Pregled

Korištenje API-ja možete pregledati na dva načina:

Na Kontrolnoj tabli korištenja pregledajte aktivnosti u trenutnom i prethodnim periodima naplate.
Pročitajte podatke o korištenju u odgovoru API-ja da biste provjerili pojedinačni zahtjev.

Playground koristi iste API pozive kao i vaše aplikacije. Njegovi tokeni računaju se u korištenje API-ja na vašem računu te podliježu istim pravilima korištenja i cijenama.

Pristup kontrolnoj tabli

Za pristup Kontrolnoj tabli korištenja morate biti vlasnik organizacije ili imati dozvolu Kontrolna tabla korištenja.

Pregled korištenja na kontrolnoj tabli

Otvorite Kontrolnu tablu korištenja, odaberite organizaciju koju želite pregledati i odgovarajući period izvještavanja.

Podaci na kontrolnoj tabli prikazuju se prema UTC-u. Uzmite tu vremensku zonu u obzir kada poredite aktivnosti na kontrolnoj tabli sa zapisnicima svoje aplikacije.

Odabir projekata

Kontrolna tabla ima vlastiti birač projekata. Radi nezavisno od projekta odabranog na drugom mjestu u sistemu API Platform.

Pomoću birača na kontrolnoj tabli pregledajte jedan, nekoliko ili sve projekte. Za prikaz ukupnih podataka organizacije poništite odabir projekata. Kada nijedan projekt nije odabran, kontrolna tabla prikazuje podatke za sve projekte.

Pregled korištenja pojedinačnog korisnika

Da biste pregledali kako jedan korisnik koristi Responses i Chat Completions:

Na Kontrolnoj tabli korištenja idite na Mogućnosti API-ja > Responses i Chat Completions.
Odaberite Filtriraj prema.
U odjeljku Korisnici odaberite korisnika, a zatim Primijeni filtere.

Prikaz tokena u minuti

Na stranicama s detaljima o korištenju možete odabrati interval. Odaberite interval od jedne minute da biste pregledali tokene u minuti (TPM).

Ovaj interval primjenjuje se na podatke o korištenju, a ne na podatke o naplati.

Izvoz podataka o korištenju

Nema ograničenja raspona datuma za izvoz. Izvozi koji obuhvataju duži period mogu biti podijeljeni u više datoteka.

Za usklađivanje mjesečnih faktura i izvoz pojedinačnih stavki pogledajte: Izvoz mjesečnih podataka o korištenju.

Prikaz dodijeljenih kredita

Detalji o dodijeljenim kreditima dostupni su na stranici za naplatu vaše organizacije.

Dodijeljeni krediti i korištenje API-ja pružaju različite informacije: prvi prikazuju kredite povezane s vašom organizacijom, a drugo njene aktivnosti na API-ju.

Pregled korištenja i troškova Nivoa skale

Ako je u vašoj organizaciji omogućen Nivo skale i imate potreban pristup, otvorite stranicu korištenja Nivoa skale za detaljne podatke o korištenju.

Troškovi paketa Nivoa skale pripisuju se organizaciji, a ne pojedinačnim projektima.

Korištenje je veće od nule, ali je potrošnja projekta nula

Provjerite je li korištenje modela pokriveno vašom dodjelom Nivoa skale. Ako je cjelokupno korištenje tog modela unutar TPM dodjele Nivoa skale, projekt može prikazivati korištenje bez dodatne potrošnje za model.

Trošak pretplate na Nivo skale ostaje na nivou organizacije. Da biste ga pregledali:

Uklonite filter projekta na Kontrolnoj tabli korištenja.
Odaberite Kategorije potrošnje.

Pregled više organizacija

Kontrolna tabla korištenja ne objedinjuje podatke o troškovima ni korištenju iz više organizacija. Svaka organizacija, uključujući podorganizaciju, obrađuje se zasebno.

Za prikaz podorganizacije odaberite je u biraču organizacija.

Ako vam je potrebno objedinjeno izvještavanje, razmotrite korištenje projekata unutar jedne organizacije umjesto zasebnih podorganizacija ili upotrijebite API za korištenje za prilagođenu analizu.

Provjerite potrošnju tokena u odgovoru API-ja

Nazivi polja za potrošnju tokena zavise od krajnje tačke.

Broj tokena	Dovršavanje razgovora	Odgovori
Ulazni tokeni	usage.prompt_tokens	usage.input_tokens
Izlazni tokeni	usage.completion_tokens	usage.output_tokens
Ukupan broj tokena	usage.total_tokens	usage.total_tokens

Naprimjer, odgovor na zahtjev za dovršavanje razgovora može sadržavati:

{
  "usage": {
    "prompt_tokens": 13,
    "completion_tokens": 7,
    "total_tokens": 20
  }
}

Zavisno od krajnje tačke i modela, podaci o potrošnji mogu uključivati i broj keširanih ulaznih tokena te tokena za rezonovanje. Ovi podaci pomažu da se objasni zašto vidljiva dužina odgovora ne odražava ukupnu potrošnju tokena.

Za objašnjenje različitih kategorija tokena pogledajte: Razumijevanje i brojanje tokena.

Dohvatite podatke o potrošnji pri strimovanju dovršavanja razgovora

U zahtjev za dovršavanje razgovora sa strimovanjem uključite:

{
  "stream": true,
  "stream_options": {
    "include_usage": true
  }
}

Kada je include_usage uključen, dodatni dio podataka prije data: [DONE] sadrži podatke o potrošnji za cijeli zahtjev. Njegov niz choices je prazan. U ostalim dijelovima podataka polje usage ima vrijednost null.

Ako se strimovanje prekine, možda nećete primiti taj završni dio s podacima o potrošnji. Izostanak završnog dijela ne dokazuje da zahtjev nije potrošio nijedan token.

Ova konfiguracija važi samo za dovršavanje razgovora. Za detalje pogledajte: Referentna dokumentacija za API za dovršavanje razgovora.

Pregled korištenja i troškova API-ja