Tarjoamme Nopean tilan API-asiakkaille, jotka haluavat tietyillä malleilla nopeampaa ja tasaisempaa suorituskykyä. Alla on vastauksia yleisiin kysymyksiin sen toiminnasta, hinnoittelusta, mallien saatavuudesta, pyyntörajoista, luotettavuudesta, käytännöistä ja käyttöoikeudesta.
Huomautus: Priorisoitu käsittely nimettiin uudelleen Nopeaksi tilaksi 30. heinäkuuta 2026. Voit käyttää API-pyynnöissäsi joko arvoa service_tier: priority tai service_tier: fast.
Lue lisää täältä.
Onko Nopea tila saatavilla kaikilla alueilla?
Nopean tilan saatavuus määräytyy kullakin lainkäyttöalueella sovellettavien lakien ja määräysten mukaan. Jos sinulla on kysyttävää saatavuudesta alueellasi, ota yhteyttä asiakkuusjohtajaasi.
Näin se toimii
Asiakkaat voivat ohjata liikennettä Nopeaan tilaan pyyntökohtaisesti käyttämällä nykyistä service_tier-parametria ja valintaa service_tier = "fast".
Nopean tilan käsittelemät tokenit laskutetaan tokenkohtaisesti vakiokäsittelyä korkeammalla hinnalla.
Pyyntökohtaisen määrityksen lisäksi voit asettaa Nopean tilan projektin oletukseksi kohdassa Project settings > Default Service Tier: Fast. Voit silti ohittaa asetuksen pyyntökohtaisesti. Fast-valinnan tekeminen projektin asetuksissa vastaa Priority-valintaa.
Miten tämä toimii Skaalatason kanssa?
Skaalataso säilyy erillään Nopeasta tilasta. Nopeaan tilaan lähetetyt pyynnöt laskutetaan erikseen, eikä niitä lasketa ostamiisi Skaalatason TPM-paketteihin.
Voinko lähettää Skaalatason kapasiteetin ylittävän liikenteen automaattisesti Nopeaan tilaan?
Et. Skaalatasolle lähetettyä liikennettä ei siirretä automaattisesti Nopeaan tilaan.
Miten Nopeasta tilasta laskutetaan?
Nopean tilan käsittelemät tokenit laskutetaan tokenkohtaisesti vakiokäsittelyä korkeammalla hinnalla.
Onko vuotuinen sitoumukseni sidottu tiettyyn käsittelytilaan?
Ei. Kaikki käsittelytilat lasketaan mukaan vuotuiseen Enterprise-kulutussitoumukseesi.
Saanko edelleen alennuksen välimuistiin tallennetuista syötetokeneista?
Kyllä! Välimuistiin tallennetuista syötteistä saa saman 50–75 prosentin alennuksen kuin vakiokäsittelyssä.
Miten voin tarkastella Nopean tilan käyttöä ja kustannuksia?
Voit tarkastella Nopeassa tilassa (entinen Priority processing) käsiteltyjä tokeneita siirtymällä Usage-koontinäyttöön, valitsemalla Chat Completions tai Responses ja ryhmittelemällä tiedot Palvelutason mukaan.
Voit tarkastella Nopean tilan kustannuksia siirtymällä Usage-koontinäyttöön ja valitsemalla ryhmittelyperusteeksi Line Item.
Usage-koontinäytössä pyynnöt, joiden service_tier-arvo on priority tai fast, näkyvät edelleen arvolla priority. Tämä päivitetään tulevia malleja varten.
Mallit
Onko Nopea tila käytettävissä pitkän kontekstin, hienosäädettyjen mallien, upotusten ja muiden vastaavien ominaisuuksien kanssa?
Ei tällä hetkellä. Arvioimme myöhemmin, tarjoammeko Nopean tilan uusimpien malliemme lisäksi myös muissa tuotteissa.
Miten muut modaliteetit toimivat Nopeassa tilassa?
Nopea tila tukee samoja multimodaalisia ominaisuuksia kuin vakiokäsittely. Kuvia voidaan käyttää syötteinä Priority processing -käsittelyssä, ja ne käsitellään yhtä nopeasti.
Tuetaanko tulevia malleja?
Aiomme tarjota Nopean tilan uusille GPT-malleille, mutta emme takaa kaikkien mallien tukea.
Pyyntörajat
Mitkä ovat pyyntörajat?
Pyyntörajoissa Priority processing -käyttöä käsitellään samalla tavoin kuin tavallista API-liikennettä.
Mitkä ovat liikenteen kasvunopeuden rajat?
Nopeassa tilassa käytetään liikenteen kasvunopeuden rajoja, jotta kaikille asiakkaille voidaan taata tasaisen korkea suorituskyky ja samalla joustava, käyttöön perustuva hinnoittelu. Jos (a) Nopean tilan suorituskyky on heikentynyt JA (b) asiakkaan liikenne kasvaa liian nopeasti, joitakin pyyntöjä voidaan harvinaisissa tapauksissa siirtää vakiokäsittelyyn.
Nopean tilan nykyinen liikenteen kasvunopeuden raja määritellään pääasiallisessa dokumentaatiossamme täällä.
Parhaat käytännöt liikenteen kasvunopeuden rajan noudattamiseen
Kasvata liikennettä asteittain mallia vaihtaessasi. Jos sovelluksesi esimerkiksi siirtyy aiemmasta tilannevedoksesta uuteen, siirrä liikenne ominaisuusvalitsimen avulla muutaman tunnin kuluessa sen sijaan, että siirtäisit kaiken kerralla.
Vältä suurten tietojenkäsittely- tai asynkronisten töiden suorittamista Nopeassa tilassa. Nämä työt voivat kasvattaa liikennettä erittäin nopeasti, eivätkä ne usein tarvitse Nopean tilan parempaa suorituskykyä.
Jos liikenteesi ylittää kasvunopeuden rajan toistuvasti, harkitse sen sijaan Skaalatason kiintiön ostamista.
Onko liikenteen kasvunopeuden raja yhteinen kaikille projekteilleni tai organisaatioilleni?
Kyllä, kaikki liikenteesi lasketaan samaan liikenteen kasvunopeuden rajaan.
Käytännöt
Mitä tapahtuu, jos Nopea tila ei saavuta latenssitavoitetta?
Jos sinulla on kysyttävää tai huolenaiheita, ota yhteyttä asiakkuusjohtajaasi. Nopean tilan palvelutasosopimuksia käsitellään samoin kuin Skaalatason palvelutasosopimuksia. Enterprise-sopimusasiakkaille myönnetään palveluhyvityksiä, jos emme saavuta sovittuja palvelutasoja tietyllä aikavälillä.
Onko Nopea tila yhteensopiva tietojen sijaintipaikan kanssa?
Kyllä.
Onko Nopea tila yhteensopiva ZDR:n ja BAA:n kanssa?
Kyllä.