OpenAI
Tämä sivu on konekäännetty. Katso alkuperäinen englanninkielinen artikkeli.

API Platform – Skaalataso nykyisille Enterprise-asiakkaille

Päivitetty: 7 days ago

API Platformin Skaalatasolla voit ostaa etukäteen tietyn määrän API:n syöte- ja tulostokeneita minuutissa (”tokenyksiköitä”), jolloin saat käyttöösi yhden erillisen mallin tilannekuvan. Jokainen tokenyksikkö ostetaan vähintään 30 päiväksi.

Kun olet allekirjoittanut tilauslomakkeen, voit lisätä ja poistaa tokenyksiköitä API Platform -tililläsi. Huomaa, että vain organisaation omistajat ja valtuutetut käyttäjät voivat tarkastella Skaalatason asetuksia sekä ostaa syöte- ja tulostokenyksiköitä.


Lue lisää Skaalatason hinnoittelusta.

Miten pääsen Skaalatason asetuksiini?

API Platform -organisaation omistajat pääsevät Skaalatason asetuksiin (Skaalataso) valitsemalla sivun oikeasta yläkulmasta Asetukset-rataskuvakkeen ja valitsemalla näytön vasemman reunan valikosta ”Organisaatio”-osion alta Skaalatason.

Image

Skaalatason asetussivulla voit lisätä kapasiteettia, tarkastella syötetokenien käyttöä, suunnitella kapasiteettia, tarkastella varattuja tokeneita ja tarkistaa valtuutetut ostajasi.

Miten voin ostaa lisää kapasiteettia?

Voit ostaa kapasiteettia valitsemalla Lisää kapasiteettia -painikkeen oikeasta yläkulmasta sivulla Skaalataso. Katso Skaalatason pääsivulta uusimmat tiedot TPM-oikeuksista syöte- ja tulostokenyksikköä kohden.

Kun olet valinnut ostettavien tokenien tyypin, voit syöttää määrän suoraan tai valita ostettavien tokenien määrän liukusäätimellä. Liukusäätimen avulla näet helposti TPM-muutokset Yhteenveto-osiossa, kun muutat tokenien määrää. Annamme myös suosituksen siitä, montako yksikköä kannattaa ostaa kattamaan viimeisten 30 päivän liikenteesi.

Add token capacity dialog for gpt-4o with Input Tokens selected and input limit increasing from 40K to 60K

Kun olet viimeistellyt valintasi, vahvista ostos seuraavassa modaali-ikkunassa valitsemalla Kassalle.

Huomaa, että yhteenvedossa näkyvät hinnat ovat vakiohintojamme eivätkä sisällä organisaatiosi tilauslomakkeessa neuvoteltuja alennuksia. Mahdolliset alennukset otetaan käyttöön ja näytetään organisaatiollesi lähetettävässä laskussa. Ostetut yksiköt ovat aktiivisia seuraavan laskutuskauden alkuun asti ja uusiutuvat sen jälkeen päivittäin.

Miten saan kutsut käyttämään Skaalatason tokeneita?

Sinun on asetettava Projektiasetuksissa Scale Tier Enabled -valitsin päälle.

Jos käytät Completions APIa, tutustu myös dokumentaatioomme, jossa selitetään avain service_tier, jotta voit päättää, asetatko sen manuaalisesti vai käytätkö oletustoimintaa.

Responses API -kutsujen oletuksena on service_tier=auto. Jos projektissa on Scale Tier Enabled käytössä, pyynnöt, joista service_tier puuttuu (tai joissa käytetään arvoa auto), käyttävät oletusarvoisesti Skaalatasoa, kun Skaalatason kiintiötä on saatavilla. Pyynnöt, joissa service_tier=default, käyttävät jaettua/PAYG-laskentaa.

Miten voin tarkastella ostohistoriaani ja vanhentuneita tokeneita?

Voit tarkastella Skaalatason ostohistoriaasi valitsemalla mallin kohdasta Varatut tokenit sivulla Skaalataso.

Provisioned tokens table with active allocations for gpt-4o and gpt-4o-mini

Kun olet valinnut mallin, näet sivun alaosassa Vanhentuneet tokenit ja Aiemmat tapahtumat.

Image

Miten voin muokata tokenikapasiteettiani?

Voit muokata mallin tokenikapasiteettia valitsemalla mallin kohdasta Varatut tokenit sivulla Skaalataso. Kun olet valinnut mallin, etsi ostoksesi Aktiiviset-otsikon alta ja muokkaa sitä valitsemalla ostoksesi vierestä Peruuta.

Image

Modaali-ikkunassa voit syöttää peruutettavien yksiköiden määrän suoraan tai mallintaa TPM:ää valintasi aikana liukusäätimellä.

Edit Token Capacity dialog for gpt-4o canceling 1 package and reducing output limit TPM from 2.248M to 2.246M

Miten voin tarkastella Skaalatason RPM/TPM-arvoja ja käyttöä?

Voit tarkastella organisaatiosi API-käytön yhteenvetoa sivulla Skaalataso. Kaikki päivämäärät ja ajat perustuvat UTC-aikaan, ja tiedoissa voi olla enintään 5 minuutin viive.

Input token usage chart for the last 30 days with several spikes and a peak near 700K

Voit tarkastella käyttöäsi Toiminnan käyttökoontinäytössä valitsemalla mallien avattavasta valikosta Skaalatason mallisi. Voit tarkastella näitä tietoja 30 päivän, 1 päivän ja 15 minuutin aikaväleillä. Käyttötietosi näytetään pinottuna, jotta näet, kuinka suuri osa mallin käytöstä katetaan Skaalatasollasi ja kuinka suuri osa tilipaketillasi.

Huomaa, että vain organisaation omistajat voivat tarkastella käyttökoontinäyttöä.

Milloin tokenikapasiteetin muutos näkyy käytön koontinäytössäni?

Tekemiesi muutosten näkymisessä voi kestää enintään 24 tuntia. Muutokset tulevat kuitenkin voimaan lähes välittömästi.

Oliko tästä artikkelista apua?