OpenAI
Šis puslapis buvo išverstas mašininiu būdu. Peržiūrėti originalų straipsnį anglų kalba.

API platforma – Plėtros lygmuo esamiems „Enterprise“ klientams

Atnaujinta: 10 days ago

API platformoje Plėtros lygmuo suteikia galimybę iš anksto įsigyti nustatytą API įvesties ir išvesties žetonų per minutę skaičių (vadinamą „žetonų vienetais“) ir naudotis viena dedikuota modelio momentine versija. Kiekvienas žetonų vienetas įsigyjamas ne trumpesniam kaip 30 dienų laikotarpiui.

Pasirašę užsakymo formą, žetonų vienetus galite pridėti ir pašalinti savo API platformos paskyroje. Atkreipkite dėmesį, kad Plėtros lygmens nustatymus peržiūrėti ir įvesties bei išvesties žetonų vienetus įsigyti gali tik organizacijos savininkai ir įgaliotieji naudotojai.


Sužinokite daugiau apie Plėtros lygmens kainodarą.

Kaip pasiekti Plėtros lygmens nustatymus?

API platformos organizacijų savininkai savo Plėtros lygmens nustatymus gali pasiekti puslapio viršuje dešinėje pasirinkę nustatymų krumpliaratį, tada kairėje ekrano pusėje esančio meniu skiltyje „Organizacija“ pasirinkę „Plėtros lygmuo“.

Image

Plėtros lygmens nustatymų puslapyje galite pridėti daugiau pajėgumo, peržiūrėti įvesties žetonų naudojimą, planuoti pajėgumą, peržiūrėti parengtus žetonus ir įgaliotuosius pirkėjus.

Kaip įsigyti daugiau pajėgumo?

Pajėgumą galite įsigyti savo Plėtros lygmens puslapio viršuje dešinėje pasirinkę mygtuką „Pridėti pajėgumą“. Naujausią informaciją apie TPM teises pagal įvesties ir išvesties žetonų vienetus rasite mūsų pagrindiniame Plėtros lygmens puslapyje.

Pasirinkę įsigyjamų žetonų tipą, galite tiesiogiai įvesti sumą arba slankikliu pasirinkti norimą įsigyti žetonų skaičių. Slankiklis leidžia lengvai matyti TPM pokyčius skiltyje „Suvestinė“, kai keičiate žetonų kiekį. Taip pat pateiksime rekomendaciją, kiek vienetų reikėtų įsigyti, kad būtų padengtas pastarųjų 30 dienų srautas.

Add token capacity dialog for gpt-4o with Input Tokens selected and input limit increasing from 40K to 60K

Baigę rinktis, pasirinkite „Atsiskaityti“, kad kitame modaliniame lange patvirtintumėte pirkimą.

Atkreipkite dėmesį, kad suvestinėje rodomos kainos yra mūsų standartiniai tarifai ir į jas neįtrauktos jokios jūsų organizacijos užsakymo formoje suderėtos nuolaidos. Visos taikomos nuolaidos bus pritaikytos ir parodytos jūsų organizacijai išrašytoje sąskaitoje faktūroje. Visi įsigyti vienetai bus aktyvūs iki kito sąskaitų faktūrų laikotarpio pradžios, o vėliau bus atnaujinami kasdien.

Kaip įgalinti iškvietimus naudoti Plėtros lygmens žetonus?

Projekto nustatymuose turėsite įjungti perjungiklį Scale Tier Enabled.

Jei naudojate Completions API, taip pat peržiūrėkite mūsų dokumentaciją, kurioje paaiškinamas raktas service_tier, kad nuspręstumėte, ar jį nustatyti rankiniu būdu, ar pasikliauti numatytąja elgsena.

Responses API iškvietimų numatytoji reikšmė yra service_tier=auto. Jei projekte įjungta parinktis „Scale Tier Enabled“, užklausos, kuriose nenurodytas service_tier (arba naudojama auto), pagal numatytuosius nustatymus naudos Plėtros lygmenį, kai bus pasiekiama Plėtros lygmens kvota. Užklausos su service_tier=default naudos bendrinamus / PAYG skaičiavimo išteklius.

Kaip peržiūrėti pirkimų istoriją ir nebegaliojančius žetonus?

Plėtros lygmens pirkimų istoriją galite peržiūrėti savo Plėtros lygmens puslapyje pasirinkę modelį skiltyje „Parengti žetonai“.

Provisioned tokens table with active allocations for gpt-4o and gpt-4o-mini

Pasirinkę modelį, puslapio apačioje galėsite peržiūrėti „Nebegaliojančius žetonus“ ir „Ankstesnes operacijas“.

Image

Kaip redaguoti žetonų pajėgumą?

Modelio žetonų pajėgumą galite redaguoti savo Plėtros lygmens puslapyje pasirinkę modelį skiltyje „Parengti žetonai“. Pasirinkę modelį, raskite savo pirkimą po antrašte „Aktyvūs“ ir šalia pirkimo pasirinkite „Atšaukti“, kad galėtumėte redaguoti

Image

Modaliniame lange galite tiesiogiai įvesti atšaukiamų vienetų skaičių arba naudoti slankiklį, kad rinkdamiesi modeliuotumėte TPM.

Edit Token Capacity dialog for gpt-4o canceling 1 package and reducing output limit TPM from 2.248M to 2.246M

Kaip peržiūrėti savo Plėtros lygmens RPM / TPM ir naudojimą?

Savo Plėtros lygmens puslapyje galite peržiūrėti organizacijos API naudojimo suvestinę. Visos datos ir laikai pateikiami pagal UTC, o duomenys gali vėluoti iki 5 minučių.

Input token usage chart for the last 30 days with several spikes and a peak near 700K

Savo naudojimą galite peržiūrėti veiklos naudojimo informacijos suvestinėje, modelių išskleidžiamajame meniu pasirinkę Plėtros lygmens modelius. Šiuos duomenis galite peržiūrėti 30 dienų, 1 dienos ir 15 minučių lange. Jūsų naudojimo duomenys pateikiami sluoksniais, kad būtų matomas jūsų Plėtros lygmens dengiamas modelio naudojimas ir paskyros plano dengiamas naudojimas.

Atkreipkite dėmesį, kad naudojimo informacijos suvestinę gali peržiūrėti tik organizacijos savininkai.

Kada žetonų pajėgumo pakeitimas atsispindės naudojimo informacijos suvestinėje?

Gali prireikti iki 24 valandų, kol jūsų atlikti pakeitimai bus parodyti. Patys pakeitimai įsigalios beveik iš karto.

Ar šis straipsnis buvo naudingas?