Tarjoamme nyt Priority-käsittelyä Enterprise API -asiakkaille, jotka haluavat nopeamman ja tasaisemman suorituskyvyn tietyissä malleissa. Alla on vastauksia yleisiin kysymyksiin sen toiminnasta, hinnoittelusta, mallien saatavuudesta, pyyntörajoista, luotettavuudesta, käytännöistä ja kelpoisuudesta.

Lue lisää täältä.

Käyttöoikeus

Kuka voi käyttää Priority-käsittelyä?

Priority-käsittely on tällä hetkellä Enterprise-asiakkaiden saatavilla.

Onko Priority-käsittely saatavilla kaikilla alueilla?

Priority-käsittelyn saatavuus riippuu kunkin lainkäyttöalueen sovellettavista laeista ja määräyksistä. Ota yhteyttä Account Directoriisi, jos sinulla on kysyttävää saatavuudesta alueellasi.

Hinnoittelu

Miten aloitan Priority-käsittelyn käytön?

Asiakkaat voivat ohjata liikennettä Priority-käsittelyyn pyyntökohtaisesti käyttämällä olemassa olevaa service_tier-parametria ja valintaa service_tier="priority".

Miten tämä toimii Skaalatason kanssa?

Skaalataso pysyy erillään Priority-käsittelystä. Priority-käsittelyyn lähetetyt pyynnöt laskutetaan erikseen, eikä niitä lasketa mukaan ostamiisi Skaalatason TPM-paketteihin.

Voinko lähettää Skaalatason ylivuotoliikenteeni automaattisesti Priority-käsittelyyn?

Ei. Skaalatasolle lähetetty liikenne ei siirry automaattisesti ylivuotona Priority-käsittelyyn.

Miten Priority-käsittely laskutetaan?

Priority-käsittelyn palvelemat tokenit laskutetaan tokenkohtaisesti, ja niiden hinta on korkeampi kuin Standard-käsittelyn hinnat.

Onko vuotuinen sitoumukseni sidottu tiettyyn käsittelytilaan?

Ei. Kaikki käsittelytilat lasketaan mukaan vuotuiseen Enterprise-käyttösitoumukseesi.

Saanko edelleen alennuksen välimuistiin tallennetuista syötteen tokeneista?

Kyllä! Välimuistiin tallennetut syötteet saavat saman 50–75 %:n alennuksen kuin vakiokäsittelyssä.

Miten voin tarkastella Priority-käsittelyn käyttöäni ja kulujani?

Voit tarkastella Priority-käsittelyllä käsiteltyjä tokeneita siirtymällä Usage-koontinäyttöön, valitsemalla Chat Completions tai Responses ja ryhmittelemällä palvelutason mukaan. Voit tarkastella Priority-käsittelyn kustannuksia siirtymällä Usage-koontinäyttöön ja valitsemalla ryhmittelyn rivikohdan mukaan.

Mallit

Onko Priority-käsittely saatavilla pitkälle kontekstille, hienosäädetyille malleille, upotuksille jne.?

Ei tällä hetkellä. Arvioimme tulevaisuudessa, tarjoammeko Priority-käsittelyä myös muille tuotteille uusimpien malliemme lisäksi.

Miten muut modaliteetit toimivat Priority-käsittelyn kanssa?

Priority-käsittely tukee samoja multimodaalisia ominaisuuksia, jotka ovat saatavilla Standardissa. Erityisesti kuvia voidaan käyttää syötteinä Priority-käsittelyssä, ja ne käsitellään samalla nopealla viiveellä.

Tuetaanko tulevia malleja?

Aiomme tarjota Priority-käsittelyä uusille GPT-malleille, mutta emme takaa, että jokaista mallia tuetaan.

Pyyntörajat

Mitkä ovat pyyntörajat?

Priority-käsittelyn kulutusta käsitellään pyyntörajojen osalta samalla tavalla kuin tavallista API-liikennettä.

Mitkä ovat kasvuvauhdin pyyntörajat?

Priority-käsittelyssä on kasvuvauhdin pyyntörajat, jotta kaikille asiakkaille voidaan varmistaa tasaisen korkea suorituskyky ja samalla tarjota joustava, tarpeen mukaan määräytyvä hinnoittelu. Jos (a) Priority-käsittelyn suorituskyky heikkenee JA (b) asiakkaan liikenne kasvaa liian nopeasti, joitakin Priority-pyyntöjä voidaan harvoissa tapauksissa sen sijaan siirtää Standard-käsittelyyn.

Priority-käsittelyn nykyinen kasvuvauhdin pyyntöraja on määritelty ensisijaisessa dokumentaatiossamme täällä.

Parhaat käytännöt kasvuvauhdin pyyntörajan sisällä pysymiseen

Lisää liikennettä vähitellen mallia vaihtaessasi. Jos sovelluksesi esimerkiksi siirtyy aiemmasta vedoksesta uuteen, käytä ominaisuuslippua siirtääksesi liikennettä muutaman tunnin aikana sen sijaan, että siirtäisit kaiken kerralla.

Vältä suurten tietojenkäsittely- tai asynkronisten töiden suorittamista Priority-käsittelyssä. Nämä työt voivat kasvattaa liikennettä hyvin nopeasti eivätkä usein tarvitse Priority-käsittelyn parannettua suorituskykyä.
Jos kohtaat toistuvasti kasvuvauhdin pyyntörajoja, harkitse sen sijaan Skaalatason kiintiön ostamista.

Jaetaanko kasvuvauhdin pyyntörajat projektieni tai organisaatioideni kesken?

Kyllä, kaikki liikenteesi vaikuttaa samaan kasvuvauhdin pyyntörajaan.

Käytännöt

Mitä tapahtuu, jos Priority-käsittely ei täytä viivetavoitetta?

Ota yhteyttä AD:hen, jos sinulla on kysyttävää tai huolenaiheita. Priority-käsittelyn palvelutasosopimuksia käsitellään samalla tavalla kuin Skaalatason palvelutasosopimuksia; palveluhyvityksiä tarjotaan, jos emme täytä näitä palvelutasosopimuksia Enterprise-sopimuksen tehneiden asiakkaiden kohdalla tietyn aikaikkunan aikana.

Onko Priority-käsittely yhteensopiva tietojen sijaintipaikan kanssa?

Kyllä.

Onko Priority-käsittely yhteensopiva ZDR:n ja BAA:n kanssa?