Tarjoamme Nopean tilan API-asiakkaille, jotka haluavat tietyillä malleilla nopeampaa ja tasaisempaa suorituskykyä. Alla on vastauksia yleisiin kysymyksiin sen toiminnasta, hinnoittelusta, mallien saatavuudesta, pyyntörajoista, luotettavuudesta, käytännöistä ja käyttöoikeudesta.

Huomautus: Priorisoitu käsittely nimettiin uudelleen Nopeaksi tilaksi 30. heinäkuuta 2026. Voit käyttää API-pyynnöissäsi joko arvoa service_tier: priority tai service_tier: fast. 

Lue lisää täältä.

Onko Nopea tila saatavilla kaikilla alueilla?

Nopean tilan saatavuus määräytyy kullakin lainkäyttöalueella sovellettavien lakien ja määräysten mukaan. Jos sinulla on kysyttävää saatavuudesta alueellasi, ota yhteyttä asiakkuusjohtajaasi.

Näin se toimii

Asiakkaat voivat ohjata liikennettä Nopeaan tilaan pyyntökohtaisesti käyttämällä nykyistä service_tier-parametria ja asetusta service_tier = "fast".

Nopeassa tilassa käsitellyt tokenit laskutetaan tokenikohtaisesti vakiokäsittelyä korkeammalla hinnalla.

Pyyntökohtaisen määrityksen lisäksi voit asettaa Nopean tilan projektin oletukseksi kohdassa Projektin asetukset > Oletuspalvelutaso: Nopea. Voit silti ohittaa oletusasetuksen yksittäisessä pyynnössä. Nopea-valinta projektin asetuksissa vastaa Prioriteetti-valintaa.

Miten tämä toimii yhdessä Skaalatason kanssa?

Skaalataso pysyy erillisenä Nopeasta tilasta. Nopeaan tilaan lähetetyt pyynnöt laskutetaan erikseen, eivätkä ne kuluta ostamiasi Skaalatason TPM-paketteja.

Voinko ohjata Skaalatason kiintiön ylittävän liikenteen automaattisesti Nopeaan tilaan?

Et. Skaalatasolle lähetetty liikenne ei siirry automaattisesti Nopeaan tilaan kiintiön ylittyessä.

Miten Nopea tila laskutetaan?

Nopeassa tilassa käsitellyt tokenit laskutetaan tokenikohtaisesti vakiokäsittelyä korkeammalla hinnalla.

Onko vuotuinen ostositoumukseni sidottu tiettyyn käsittelytilaan?

Ei. Kaikkien käsittelytilojen käyttö lasketaan mukaan vuotuiseen Enterprise-ostositoumukseesi.

Saanko edelleen alennuksen välimuistiin tallennetuista syötetokeneista?

Kyllä! Välimuistiin tallennetuista syötteistä saa saman 50–75 %:n alennuksen kuin vakiokäsittelyssä.

Miten näen Nopean tilan käyttöni ja kustannukseni?

Voit tarkastella Nopeassa tilassa (aiemmin prioriteettikäsittely) käsiteltyjä tokeneita siirtymällä käytön hallintapaneeliin, valitsemalla Chat Completions tai Responses ja ryhmittelemällä tiedot palvelutason mukaan.

Voit tarkastella Nopean tilan kustannuksia siirtymällä käytön hallintapaneeliin ja ryhmittelemällä tiedot laskutusrivin mukaan.

Käytön hallintapaneelissa pyynnöt, joiden service_tier-arvo on priority tai fast, näkyvät edelleen nimellä priority. Tämä päivitetään tulevien mallien osalta.

Mallit

Onko Nopea tila käytettävissä pitkän kontekstin, hienosäädettyjen mallien, upotusten ja vastaavien kanssa?

Ei tällä hetkellä. Arvioimme tulevaisuudessa, tuommeko Nopean tilan uusimpien malliemme lisäksi myös muihin tuotteisiin.

Miten muut modaliteetit toimivat Nopeassa tilassa?

Nopea tila tukee samoja multimodaalisia ominaisuuksia kuin vakiokäsittely. Esimerkiksi kuvia voi käyttää prioriteettikäsittelyn syötteinä, ja ne käsitellään samalla lyhyellä viiveellä.

Tuetaanko tulevia malleja?

Aiomme tarjota Nopean tilan uusille GPT-malleille, mutta emme takaa tukea kaikille malleille.

Pyyntörajat

Mitkä ovat pyyntörajat?

Prioriteettikäsittelyn käyttö lasketaan pyyntörajoihin samalla tavalla kuin tavallinen API-liikenne.

Mitkä ovat kasvuvauhdin rajat?

Nopeassa tilassa on kasvuvauhdin rajat, jotta kaikille asiakkaille voidaan taata tasaisen hyvä suorituskyky ja samalla joustava, käytön mukainen hinnoittelu. Jos (a) Nopean tilan suorituskyky heikkenee JA (b) asiakkaan liikenne kasvaa liian nopeasti, osa pyynnöistä saatetaan harvinaisissa tapauksissa siirtää vakiokäsittelyyn.

Nopean tilan nykyinen kasvuvauhdin raja on määritelty ensisijaisessa dokumentaatiossamme täällä.

Parhaat käytännöt kasvuvauhdin rajan noudattamiseen

Lisää liikennettä asteittain, kun vaihdat mallia. Jos sovelluksesi esimerkiksi siirtyy aiemmasta malliversiosta uuteen, ohjaa liikenne uuteen versioon ominaisuuslipun avulla muutaman tunnin kuluessa sen sijaan, että siirtäisit kaiken kerralla.

Vältä suurten tietojenkäsittelytehtävien tai asynkronisten tehtävien suorittamista Nopeassa tilassa. Nämä tehtävät voivat kasvattaa liikennettä hyvin nopeasti, eivätkä ne usein tarvitse Nopean tilan parempaa suorituskykyä.

Jos kasvuvauhdin rajat tulevat toistuvasti vastaan, harkitse sen sijaan Skaalatason kiintiön ostamista.

Onko projekteillani tai organisaatioillani yhteinen kasvuvauhdin raja?

Kyllä, kaikki liikenteesi lasketaan mukaan samaan kasvuvauhdin rajaan.

Käytännöt

Mitä tapahtuu, jos Nopea tila ei saavuta viivetavoitetta?

Jos sinulla on kysyttävää tai huolenaiheita, ota yhteyttä asiakkuusjohtajaasi (AD). Nopean tilan palvelutasosopimuksia (SLA) käsitellään samoin kuin Skaalatason palvelutasosopimuksia. Enterprise-sopimusasiakkaille tarjotaan palveluhyvityksiä, jos emme täytä näitä palvelutasosopimuksia määritellyllä ajanjaksolla.

Onko Nopea tila yhteensopiva tietojen sijaintipaikkaa koskevien vaatimusten kanssa?

Kyllä.

Onko Nopea tila yhteensopiva ZDR:n ja BAA-sopimuksen kanssa?

Kyllä.

Ultrafast GPT-6 Astralle

Ultrafast on erillinen palvelutaso tehtäviin, joissa tarvitaan GPT-6 Astran vastauksia lyhyemmällä viiveellä, kuten vuorovaikutteisiin sovelluksiin ja ohjelmoinnin työnkulkuihin.

Nopean tilan hinnoittelu-, pyyntöraja- ja käytäntöohjeet koskevat pyyntöjä, joissa käytetään asetusta service_tier="fast". Ultrafast-pyynnöissä käytetään erillistä service_tier="ultrafast"-tasoa.

Miten lähetän Ultrafast-pyynnön?

Jos organisaatiollasi on Ultrafast-käyttöoikeus, käytä Responses API:a seuraavilla asetuksilla:

• Malli: gpt-6-astra

• Palvelutaso: ultrafast

• Pyyntöotsake: OpenAI-Service-Tier: ultrafast

Palvelutasoasetuksen lisäksi tarvitaan pyyntöotsake.

Työkalukutsuja suorittavissa sovelluksissa WebSocket-tila mahdollistaa saman yhteyden käytön eri vuoroissa ja vähentää yhteyden muodostamisesta aiheutuvaa lisäkuormaa.

Voinko käyttää samaa pyyntöotsaketta muilla palvelutasoilla?

Ultrafastin alfavaiheessa OpenAI-Service-Tier-otsake hyväksyy vain arvon ultrafast. Muun arvon, kuten default, fast tai flex, lähettäminen palauttaa HTTP 400 -virheen. Jätä tämä otsake pois, kun käytät muuta tasoa.

Voinko käyttää Ultrafastia Work-tilassa tai Codexissa?

Ultrafast on saatavilla myös Work-tilassa ja Codexissa siihen oikeuttavilla tilauksilla ja työtiloissa. ChatGPT-tilausten käyttöoikeudet ja käyttö eroavat API-käytöstä.

Lisätietoja saatavuudesta ja käytöstä on artikkelissa ChatGPT Work ja Codex.