Pregled
Korištenje API-ja možete pregledati na dva načina:
Na Kontrolnoj tabli korištenja pregledajte aktivnosti u trenutnom i prethodnim periodima naplate.
Pročitajte podatke o korištenju u odgovoru API-ja da biste provjerili pojedinačni zahtjev.
Playground koristi iste API pozive kao i vaše aplikacije. Njegovi tokeni računaju se u korištenje API-ja na vašem računu te podliježu istim pravilima korištenja i cijenama.
Pristup kontrolnoj tabli
Za pristup Kontrolnoj tabli korištenja morate biti vlasnik organizacije ili imati dozvolu Kontrolna tabla korištenja.
Pregled korištenja na kontrolnoj tabli
Otvorite Kontrolnu tablu korištenja, odaberite organizaciju koju želite pregledati i odgovarajući period izvještavanja.
Podaci na kontrolnoj tabli prikazuju se prema UTC-u. Uzmite tu vremensku zonu u obzir kada poredite aktivnosti na kontrolnoj tabli sa zapisnicima svoje aplikacije.
Odabir projekata
Kontrolna tabla ima vlastiti birač projekata. Radi nezavisno od projekta odabranog na drugom mjestu u sistemu API Platform.
Pomoću birača na kontrolnoj tabli pregledajte jedan, nekoliko ili sve projekte. Za prikaz ukupnih podataka organizacije poništite odabir projekata. Kada nijedan projekt nije odabran, kontrolna tabla prikazuje podatke za sve projekte.
Pregled korištenja pojedinačnog korisnika
Da biste pregledali kako jedan korisnik koristi Responses i Chat Completions:
Na Kontrolnoj tabli korištenja idite na Mogućnosti API-ja > Responses i Chat Completions.
Odaberite Filtriraj prema.
U odjeljku Korisnici odaberite korisnika, a zatim Primijeni filtere.
Prikaz tokena u minuti
Na stranicama s detaljima o korištenju možete odabrati interval. Odaberite interval od jedne minute da biste pregledali tokene u minuti (TPM).
Ovaj interval primjenjuje se na podatke o korištenju, a ne na podatke o naplati.
Izvoz podataka o korištenju
Nema ograničenja raspona datuma za izvoz. Izvozi koji obuhvataju duži period mogu biti podijeljeni u više datoteka.
Za usklađivanje mjesečnih faktura i izvoz pojedinačnih stavki pogledajte: Izvoz mjesečnih podataka o korištenju.
Prikaz dodijeljenih kredita
Detalji o dodijeljenim kreditima dostupni su na stranici za naplatu vaše organizacije.
Dodijeljeni krediti i korištenje API-ja pružaju različite informacije: prvi prikazuju kredite povezane s vašom organizacijom, a drugo njene aktivnosti na API-ju.
Pregled korištenja i troškova Nivoa skale
Ako je u vašoj organizaciji omogućen Nivo skale i imate potreban pristup, otvorite stranicu korištenja Nivoa skale za detaljne podatke o korištenju.
Troškovi paketa Nivoa skale pripisuju se organizaciji, a ne pojedinačnim projektima.
Korištenje je veće od nule, ali je potrošnja projekta nula
Provjerite je li korištenje modela pokriveno vašom dodjelom Nivoa skale. Ako je cjelokupno korištenje tog modela unutar TPM dodjele Nivoa skale, projekt može prikazivati korištenje bez dodatne potrošnje za model.
Trošak pretplate na Nivo skale ostaje na nivou organizacije. Da biste ga pregledali:
Uklonite filter projekta na Kontrolnoj tabli korištenja.
Odaberite Kategorije potrošnje.
Pregled više organizacija
Kontrolna tabla korištenja ne objedinjuje podatke o troškovima ni korištenju iz više organizacija. Svaka organizacija, uključujući podorganizaciju, obrađuje se zasebno.
Za prikaz podorganizacije odaberite je u biraču organizacija.
Ako vam je potrebno objedinjeno izvještavanje, razmotrite korištenje projekata unutar jedne organizacije umjesto zasebnih podorganizacija ili upotrijebite API za korištenje za prilagođenu analizu.
Provjera korištenja tokena u odgovoru API-ja
Nazivi polja za korištenje tokena zavise od krajnje tačke.
| Broj tokena | Chat Completions | Responses |
| Ulazni tokeni | usage.prompt_tokens | usage.input_tokens |
| Izlazni tokeni | usage.completion_tokens | usage.output_tokens |
| Ukupno tokena | usage.total_tokens | usage.total_tokens |
Naprimjer, odgovor Chat Completions može sadržavati:
| { "usage": { "prompt_tokens": 13, "completion_tokens": 7, "total_tokens": 20 }} |
Zavisno od krajnje tačke i modela, detalji o korištenju mogu sadržavati i broj tokena keširanog ulaza te tokena za rezonovanje. Ti podaci pomažu objasniti zašto vidljiva dužina odgovora ne prikazuje njegovu ukupnu potrošnju tokena.
Objašnjenje različitih kategorija tokena potražite ovdje: Razumijevanje i brojanje tokena.
Preuzimanje podataka o korištenju iz prijenosa Chat Completions
U zahtjev za prijenos Chat Completions uključite:
| { "stream": true, "stream_options": { "include_usage": true }} |
Kada je include_usage omogućen, dodatni segment prije data: [DONE] sadrži podatke o korištenju za cijeli zahtjev. Njegov niz choices je prazan. Ostali segmenti imaju vrijednost null za usage.
Ako se prijenos prekine, možda nećete primiti taj završni segment s podacima o korištenju. Izostanak završnog segmenta ne znači da zahtjev nije koristio tokene.
Ova konfiguracija odnosi se isključivo na Chat Completions. Detalje potražite u referentnoj dokumentaciji API-ja za Chat Completions.