Razina skaliranja na API Platformu omogućuje vam da unaprijed kupite određeni broj API ulaznih i izlaznih tokena po minuti (poznatih kao „jedinice tokena”) za pristup jednoj namjenskoj snimci modela. Svaka jedinica tokena kupuje se na najmanje 30 dana.
Nakon što potpišete obrazac narudžbe, možete dodavati i uklanjati jedinice tokena putem svojeg računa API Platforme. Imajte na umu da samo vlasnici organizacije i ovlašteni korisnici mogu pregledavati postavke razine skaliranja i kupovati ulazne i izlazne jedinice tokena.
Saznajte više o cijenama za Razinu skaliranja.
Kako mogu pristupiti svojim postavkama Razine skaliranja?
Vlasnici organizacije na API Platformi mogu pristupiti svojim postavkama Razine skaliranja tako da odaberu ikonu Postavke u gornjem desnom kutu stranice i zatim Razina skaliranja u odjeljku "Organizacija" u izborniku na lijevoj strani zaslona.
Stranica s postavkama Razine skaliranja omogućuje vam dodavanje većeg kapaciteta, pregled upotrebe ulaznih tokena, planiranje kapaciteta, pregled dodijeljenih tokena i pregled ovlaštenih kupaca.
Kako mogu kupiti više kapaciteta?
Kapacitet možete kupiti tako da odaberete gumb Add capacity u gornjem desnom kutu svoje stranice Razine skaliranja. Najnovije pojedinosti o TPM pravima za ulazne i izlazne jedinice tokena potražite na našoj glavnoj stranici Razine skaliranja.
Nakon što odaberete vrstu tokena koje ćete kupiti, možete izravno unijeti količinu ili pomaknuti klizač da biste odabrali broj tokena koje želite kupiti. Klizač vam omogućuje da jednostavno pregledate TPM promjene u odjeljku Summary dok mijenjate tokene. Također ćemo dati preporuku za broj jedinica koje treba kupiti kako bi se pokrio vaš promet u posljednjih 30 dana.
Kada dovršite odabir, odaberite Checkout kako biste potvrdili kupnju u sljedećem modalnom prozoru.
Imajte na umu da su cijene prikazane u našem sažetku naše standardne cijene i ne uključuju popuste dogovorene u obrascu narudžbe vaše organizacije. Svi primjenjivi popusti bit će obračunati i prikazani na računu izdanom vašoj organizaciji. Sve kupljene jedinice bit će aktivne do početka sljedećeg obračunskog razdoblja, a nakon toga će se obnavljati svakodnevno.
Kako omogućiti pozive za upotrebu tokena Razine skaliranja?
Morat ćete uključiti preklopku Scale Tier Enabled u odjeljku Project Settings.
Ako upotrebljavate Completions API, pogledajte i našu dokumentaciju koja objašnjava ključ service_tier, kako biste odlučili trebate li ga postaviti ručno ili se osloniti na zadano ponašanje.
Pozivi prema Responses API-ju zadano koriste service_tier=auto. Ako projekt ima omogućenu opciju Scale Tier Enabled, zahtjevi koji izostave service_tier (ili upotrebljavaju auto) zadano će koristiti Razinu skaliranja kada je kvota Razine skaliranja dostupna. Zahtjevi sa service_tier=default koristit će zajednički/PAYG compute.
Kako mogu vidjeti svoju povijest kupnje i istekle tokene?
Povijest kupnje za Razinu skaliranja možete vidjeti na svojoj stranici Razine skaliranja tako da odaberete model u odjeljku Provisioned tokens.
Kada odaberete model, pri dnu stranice moći ćete vidjeti Expired tokens i Prior transactions.
Kako mogu urediti svoj kapacitet tokena?
Kapacitet tokena modela možete urediti tako da odaberete model u odjeljku Provisioned tokens na svojoj stranici Razine skaliranja. Kada odaberete model, pronađite svoju kupnju pod zaglavljem Active i odaberite Cancel pokraj svoje kupnje kako biste je uredili
U modalnom prozoru možete izravno unijeti broj jedinica za otkazivanje ili upotrijebiti klizač za modeliranje TPM-a dok odabirete.
Kako mogu vidjeti svoj RPM/TPM za Razinu skaliranja i upotrebu?
Sažetak API upotrebe za svoju organizaciju možete vidjeti na svojoj stranici Razine skaliranja. Svi datumi i vremena temelje se na UTC-u, a podaci mogu kasniti do 5 minuta.
Svoju upotrebu možete pregledati na nadzornoj ploči Activity Usage Dashboard tako da u padajućem izborniku models odaberete svoje modele Razine skaliranja. Te podatke možete pregledavati u prozoru od 30 dana, 1 dana i 15 minuta. Vaši podaci o upotrebi prikazani su slojevito kako bi pokazali količinu upotrebe modela pokrivenu vašom Razinom skaliranja u odnosu na količinu upotrebe pokrivenu planom vašeg računa.
Imajte na umu da samo vlasnici organizacije mogu pregledavati Usage Dashboard.
Kada će se promjena mojeg kapaciteta tokena prikazati na nadzornoj ploči upotrebe?
Može proći do 24 sata da se promjene koje napravite prikažu. Same promjene stupit će na snagu gotovo trenutačno.