Razina skaliranja na API platformi omogućuje vam da unaprijed kupite određeni broj API ulaznih i izlaznih tokena po minuti (poznatih kao „jedinice tokena”) za pristup jednoj namjenskoj snimci modela. Svaka jedinica tokena kupuje se na najmanje 30 dana.
Nakon što potpišete obrazac narudžbe, jedinice tokena možete dodavati i uklanjati putem svojeg računa na API platformi. Imajte na umu da samo vlasnici organizacije i ovlašteni korisnici mogu pregledavati postavke Razine skaliranja te kupovati jedinice ulaznih i izlaznih tokena.
Saznajte više o cijenama za Razinu skaliranja.
Kako mogu pristupiti postavkama Razine skaliranja?
Vlasnici organizacije na API platformi mogu pristupiti svojim postavkama Razine skaliranja tako da odaberu zupčanik Settings u gornjem desnom kutu stranice, a zatim Scale Tier u odjeljku "Organization" u izborniku na lijevoj strani zaslona.
Stranica postavki Razine skaliranja omogućuje vam dodavanje dodatnog kapaciteta, pregled upotrebe ulaznih tokena, planiranje kapaciteta, pregled dodijeljenih tokena i pregled ovlaštenih kupaca.
Kako mogu kupiti dodatni kapacitet?
Kapacitet možete kupiti odabirom gumba Add capacity u gornjem desnom kutu stranice Razina skaliranja. Najnovije pojedinosti o pravima na TPM po jedinicama ulaznih i izlaznih tokena potražite na našoj glavnoj stranici Razine skaliranja.
Nakon što odaberete vrstu tokena koju ćete kupiti, možete izravno unijeti iznos ili pomaknuti klizač kako biste odabrali broj tokena koje želite kupiti. Klizač vam omogućuje da pod odjeljkom Summary jednostavno pratite promjene TPM-a dok mijenjate tokene. Dat ćemo vam i preporuku o broju jedinica koje trebate kupiti kako biste pokrili promet iz posljednjih 30 dana.
Nakon što dovršite odabir, odaberite Checkout kako biste potvrdili kupnju u sljedećem modalnom prozoru.
Imajte na umu da su cijene prikazane u našem sažetku naše standardne cijene i ne uključuju popuste dogovorene u obrascu narudžbe vaše organizacije. Svi primjenjivi popusti primijenit će se i prikazati na fakturi izdanoj vašoj organizaciji. Sve kupljene jedinice bit će aktivne do početka sljedećeg obračunskog razdoblja, a nakon toga obnavljat će se svakodnevno.
Kako mogu omogućiti da pozivi upotrebljavaju tokene Razine skaliranja?
U odjeljku Project Settings morate uključiti prekidač Scale Tier Enabled.
Ako upotrebljavate Completions API, pogledajte i našu dokumentaciju koja objašnjava ključ service_tier kako biste odlučili trebate li ga postaviti ručno ili se osloniti na zadano ponašanje.
Pozivi prema Responses API-ju zadano upotrebljavaju service_tier=auto. Ako je za projekt uključena opcija Scale Tier Enabled, zahtjevi koji izostave service_tier (ili upotrebljavaju auto) zadano će upotrebljavati Razinu skaliranja kada je dostupna kvota Razine skaliranja. Zahtjevi sa service_tier=default upotrebljavat će zajednički/PAYG računalni kapacitet.
Kako mogu pregledati povijest kupnji i istekle tokene?
Povijest kupnji za Razinu skaliranja možete pregledati na stranici Razina skaliranja odabirom modela u odjeljku Provisioned tokens.
Nakon što odaberete model, pri dnu stranice moći ćete pregledati Expired tokens i Prior transactions.
Kako mogu urediti kapacitet tokena?
Kapacitet tokena za model možete urediti odabirom modela u odjeljku Provisioned tokens na stranici Razina skaliranja. Nakon što odaberete model, pronađite svoju kupnju pod zaglavljem Active i odaberite Cancel pokraj kupnje kako biste je uredili
U modalnom prozoru možete izravno unijeti broj jedinica za otkazivanje ili upotrijebiti klizač kako biste modelirali TPM tijekom odabira.
Kako mogu pregledati RPM/TPM i upotrebu za Razinu skaliranja?
Sažetak upotrebe API-ja za svoju organizaciju možete pregledati na stranici Razina skaliranja. Svi datumi i vremena temelje se na UTC-u, a podaci mogu kasniti do 5 minuta.
Svoju upotrebu možete pregledati na nadzornoj ploči Activity Usage Dashboard odabirom modela Razine skaliranja na padajućem izborniku modela. Te podatke možete pregledavati u prozoru od 30 dana, 1 dana i 15 minuta. Podaci o upotrebi prikazani su slojevito kako bi se prikazala količina upotrebe za model pokriven vašom Razinom skaliranja u odnosu na količinu upotrebe pokrivenu planom vašeg računa.
Imajte na umu da samo vlasnici organizacije mogu pregledavati nadzornu ploču Usage Dashboard.
Kada će se promjena kapaciteta tokena prikazati na nadzornoj ploči za upotrebu?
Može proći do 24 sata dok se vaše promjene ne prikažu. Same promjene stupit će na snagu gotovo trenutačno.