OpenAI
Ta stran je bila strojno prevedena. Oglejte si izvirni članek v angleščini.

API Platform – lestvica zmogljivosti za obstoječe poslovne stranke

Posodobljeno: 7 days ago

Lestvica zmogljivosti na platformi API Platform vam omogoča, da vnaprej zakupite določeno število vhodnih in izhodnih žetonov API na minuto (t. i. »enote žetonov«) za dostop do enega namenskega posnetka modela. Vsaka enota žetonov se zakupi za najmanj 30 dni.

Ko podpišete naročilnico, lahko enote žetonov dodajate in odstranjujete prek svojega računa API Platform. Upoštevajte, da lahko nastavitve lestvice zmogljivosti vidijo ter enote vhodnih in izhodnih žetonov kupujejo samo lastniki organizacije in pooblaščeni uporabniki.


Preberite več o cenah na lestvici zmogljivosti.

Kako lahko dostopam do nastavitev lestvice zmogljivosti?

Lastniki organizacije API Platform lahko do nastavitev lestvice zmogljivosti dostopajo tako, da v zgornjem desnem kotu strani izberejo zobnik Nastavitve, nato pa v razdelku »Organizacija« v meniju na levi strani zaslona izberejo Lestvica zmogljivosti.

Image

Stran z nastavitvami lestvice zmogljivosti vam omogoča dodajanje zmogljivosti, ogled uporabe vhodnih žetonov, načrtovanje zmogljivosti, ogled dodeljenih žetonov in pregled pooblaščenih kupcev.

Kako lahko kupim več zmogljivosti?

Zmogljivost lahko kupite tako, da v zgornjem desnem kotu strani lestvice zmogljivosti izberete gumb Dodaj zmogljivost. Za najnovejše podrobnosti o upravičenjih TPM za enote vhodnih in izhodnih žetonov si oglejte našo glavno stran lestvice zmogljivosti.

Ko izberete vrsto žetonov, ki jih želite kupiti, lahko neposredno vnesete znesek ali premaknete drsnik, da izberete število žetonov za nakup. Drsnik vam omogoča, da med spreminjanjem žetonov v razdelku Povzetek preprosto vidite spremembe TPM. Priporočili vam bomo tudi število enot za nakup, s katerim boste pokrili promet v zadnjih 30 dneh.

Add token capacity dialog for gpt-4o with Input Tokens selected and input limit increasing from 40K to 60K

Ko dokončate izbiro, izberite Zaključek nakupa, da v naslednjem modalnem oknu potrdite nakup.

Upoštevajte, da so cene, prikazane v našem povzetku, naše standardne tarife in ne vključujejo popustov, dogovorjenih v naročilnici vaše organizacije. Vsi veljavni popusti bodo uporabljeni in prikazani na računu, izdanem vaši organizaciji. Vse kupljene enote bodo aktivne do začetka naslednjega obračunskega obdobja, nato pa se bodo obnavljale dnevno.

Kako omogočim, da klici uporabljajo žetone lestvice zmogljivosti?

Preklopnik Scale Tier Enabled v nastavitvah projekta morate nastaviti na vklopljeno.

Če uporabljate Completions API, si oglejte tudi našo dokumentacijo, ki pojasnjuje ključ service_tier, da se odločite, ali ga morate nastaviti ročno ali se zanašati na privzeto vedenje.

Klici v Responses API privzeto uporabljajo service_tier=auto. Če ima projekt omogočeno možnost Scale Tier Enabled, bodo zahteve, ki izpustijo service_tier (ali uporabijo auto), privzeto uporabljale lestvico zmogljivosti, kadar je kvota lestvice zmogljivosti na voljo. Zahteve z možnostjo service_tier=default bodo uporabljale skupne računske vire/PAYG.

Kako si lahko ogledam zgodovino nakupov in potekle žetone?

Zgodovino nakupov na lestvici zmogljivosti si lahko ogledate na strani lestvice zmogljivosti tako, da v razdelku Dodeljeni žetoni izberete model.

Provisioned tokens table with active allocations for gpt-4o and gpt-4o-mini

Ko izberete model, si boste na dnu strani lahko ogledali Potekle žetone in Prejšnje transakcije.

Image

Kako lahko uredim zmogljivost žetonov?

Zmogljivost žetonov modela lahko uredite tako, da na strani lestvice zmogljivosti izberete model v razdelku Dodeljeni žetoni. Ko izberete model, poiščite svoj nakup pod naslovom Aktivno in ob nakupu izberite Prekliči, da ga uredite.

Image

V modalnem oknu lahko neposredno vnesete število enot za preklic ali uporabite drsnik za modeliranje TPM med izbiranjem.

Edit Token Capacity dialog for gpt-4o canceling 1 package and reducing output limit TPM from 2.248M to 2.246M

Kako si lahko ogledam RPM/TPM in uporabo lestvice zmogljivosti?

Povzetek uporabe API-ja za svojo organizacijo si lahko ogledate na strani lestvice zmogljivosti. Vsi datumi in časi temeljijo na UTC, podatki pa lahko zamujajo do 5 minut.

Input token usage chart for the last 30 days with several spikes and a peak near 700K

Svojo uporabo lahko pregledate na nadzorni plošči uporabe dejavnosti tako, da v spustnem seznamu modelov izberete svoje modele lestvice zmogljivosti. Te podatke si lahko ogledate v 30-dnevnem, 1-dnevnem in 15-minutnem oknu. Podatki o uporabi so prikazani naloženo, da prikažejo količino uporabe za model, ki ga pokriva vaša lestvica zmogljivosti, v primerjavi s količino uporabe, ki jo pokriva paket vašega računa.

Upoštevajte, da lahko nadzorno ploščo uporabe vidijo samo lastniki organizacije.

Kdaj bo sprememba zmogljivosti žetonov vidna na nadzorni plošči uporabe?

Lahko traja do 24 ur, da se spremembe, ki jih izvedete, prikažejo. Same spremembe začnejo veljati skoraj takoj.

Ali vam je bil ta članek v pomoč?