OpenAI
Tämä sivu on konekäännetty. Katso alkuperäinen englanninkielinen artikkeli.

API Platform – Skaalataso nykyisille Enterprise-asiakkaille

Päivitetty: 1 hour ago

API Platformin Skaalatasolla voit ostaa etukäteen tietyn määrän API:n syöte- ja tulostokeneita minuutissa (”tokenyksiköitä”), jolloin saat käyttöösi yhden erillisen mallin tilannekuvan. Jokainen tokenyksikkö ostetaan vähintään 30 päiväksi.

Kun olet allekirjoittanut tilauslomakkeen, voit lisätä ja poistaa tokenyksiköitä API Platform -tililläsi. Huomaa, että vain organisaation omistajat ja valtuutetut käyttäjät voivat tarkastella Skaalatason asetuksia sekä ostaa syöte- ja tulostokenyksiköitä.


Lue lisää Skaalatason hinnoittelusta.

Miten pääsen Skaalatason asetuksiini?

API Platform -organisaation omistajat pääsevät Skaalatason asetuksiin (Skaalataso) valitsemalla sivun oikeasta yläkulmasta Asetukset-rataskuvakkeen ja valitsemalla näytön vasemman reunan valikosta ”Organisaatio”-osion alta Skaalatason.

Image

Skaalatason asetussivulla voit lisätä kapasiteettia, tarkastella syötetokenien käyttöä, suunnitella kapasiteettia, tarkastella varattuja tokeneita ja tarkistaa valtuutetut ostajasi.

Miten voin ostaa lisää kapasiteettia?

Voit ostaa kapasiteettia valitsemalla Lisää kapasiteettia -painikkeen oikeasta yläkulmasta sivulla Skaalataso. Katso Skaalatason pääsivulta uusimmat tiedot TPM-oikeuksista syöte- ja tulostokenyksikköä kohden.

Kun olet valinnut ostettavien tokenien tyypin, voit syöttää määrän suoraan tai valita ostettavien tokenien määrän liukusäätimellä. Liukusäätimen avulla näet helposti TPM-muutokset Yhteenveto-osiossa, kun muutat tokenien määrää. Annamme myös suosituksen siitä, montako yksikköä kannattaa ostaa kattamaan viimeisten 30 päivän liikenteesi.

Add token capacity dialog for gpt-4o with Input Tokens selected and input limit increasing from 40K to 60K

Kun olet viimeistellyt valintasi, vahvista ostos seuraavassa modaali-ikkunassa valitsemalla Kassalle.

Huomaa, että yhteenvedossa näkyvät hinnat ovat vakiohintojamme eivätkä sisällä organisaatiosi tilauslomakkeessa neuvoteltuja alennuksia. Mahdolliset alennukset otetaan käyttöön ja näytetään organisaatiollesi lähetettävässä laskussa. Ostetut yksiköt ovat aktiivisia seuraavan laskutuskauden alkuun asti ja uusiutuvat sen jälkeen päivittäin.

Miten otan Skaalatason tokenit käyttöön API-kutsuissa?

Ota projektin asetuksissa käyttöön Skaalataso käytössä -valitsin.

Jos käytät Completions APIa, tutustu myös ohjeisiimme, joissa selitetään service_tier-avain. Niiden avulla voit päättää, määritätkö sen itse vai käytätkö oletustoimintaa.

Responses API -kutsuissa oletuksena on service_tier=auto. Jos projektissa Skaalataso on käytössä, pyynnöt, joissa service_tier jätetään määrittämättä tai sen arvona on auto, käyttävät oletuksena Skaalatasoa, kun Skaalatason kiintiötä on saatavilla. Pyynnöt, joissa on service_tier=default, käyttävät jaettua PAYG-laskentakapasiteettia.

Miten voin tarkastella ostohistoriaani ja vanhentuneita tokeneita?

Voit tarkastella Skaalatason ostohistoriaasi valitsemalla mallin kohdasta Varatut tokenit sivulla Skaalataso.

Provisioned tokens table with active allocations for gpt-4o and gpt-4o-mini

Kun olet valinnut mallin, näet sivun alaosassa Vanhentuneet tokenit ja Aiemmat tapahtumat.

Image

Miten voin muokata tokenikapasiteettiani?

Voit muokata mallin tokenikapasiteettia valitsemalla mallin kohdasta Varatut tokenit sivulla Skaalataso. Kun olet valinnut mallin, etsi ostoksesi Aktiiviset-otsikon alta ja muokkaa sitä valitsemalla ostoksesi vierestä Peruuta.

Image

Modaali-ikkunassa voit syöttää peruutettavien yksiköiden määrän suoraan tai mallintaa TPM:ää valintasi aikana liukusäätimellä.

Edit Token Capacity dialog for gpt-4o canceling 1 package and reducing output limit TPM from 2.248M to 2.246M

Mistä näen Skaalatason RPM- ja TPM-rajat sekä käytön?

Näet yhteenvedon organisaatiosi API-käytöstä Skaalataso-sivulla. Kaikki päivämäärät ja kellonajat perustuvat UTC-aikaan, ja tiedoissa voi olla enintään viiden minuutin viive.

Input token usage chart for the last 30 days with several spikes and a peak near 700K

Voit tarkastella käyttöäsi käyttöaktiivisuuden hallintapaneelissa valitsemalla Skaalatason mallisi mallien avattavasta valikosta. Voit tarkastella tietoja 30 päivän, yhden päivän tai 15 minuutin ajalta. Käyttötiedot esitetään pinottuina, jotta näet, kuinka suuri osa mallin käytöstä kuuluu Skaalatasoon ja kuinka suuri osa tilisi palvelupakettiin.

Huomaa, että vain organisaation omistajat voivat tarkastella käytön hallintapaneelia.

Milloin tokenikapasiteetin muutos näkyy käytön koontinäytössäni?

Tekemiesi muutosten näkymisessä voi kestää enintään 24 tuntia. Muutokset tulevat kuitenkin voimaan lähes välittömästi.

Oliko tästä artikkelista apua?