OpenAI
Kjo faqe u përkthye automatikisht. Shih artikullin origjinal në anglisht.

Platforma API - Niveli i shkallëzimit për klientët ekzistues Enterprise

Përditësuar: 5 days ago

Niveli i shkallëzimit në Platformën API ju mundëson të blini paraprakisht një numër të caktuar tokenësh hyrës dhe dalës të API-së për minutë (të njohur si “njësi tokenësh”), për të pasur qasje në një snapshot të dedikuar të modelit. Çdo njësi tokenësh blihet për një minimum prej 30 ditësh.

Pasi të keni nënshkruar një formular porosie, mund të shtoni dhe të hiqni njësi tokenësh përmes llogarisë suaj në Platformën API. Ju lutemi vini re se vetëm pronarët e organizatës dhe përdoruesit e autorizuar mund të shohin cilësimet e nivelit të shkallëzimit dhe të blejnë njësi tokenësh hyrës dhe dalës.


Mësoni më shumë rreth çmimeve në nivelin e shkallëzimit.

Si mund të hyj te cilësimet e mia të nivelit të shkallëzimit?

Pronarët e organizatës në Platformën API mund të hyjnë te cilësimet e tyre të nivelit të shkallëzimit duke zgjedhur ikonën e ingranazhit të Cilësimeve në pjesën e sipërme djathtas të faqes dhe duke zgjedhur Nivel shkallëzimi nën seksionin “Organizata” në menynë në anën e majtë të ekranit.

Image

Faqja e cilësimeve të nivelit të shkallëzimit ju lejon të shtoni më shumë kapacitet, të shihni përdorimin e tokenëve hyrës, të planifikoni kapacitetin, të shihni tokenët e provizionuar dhe të rishikoni blerësit e autorizuar.

Si mund të blej më shumë kapacitet?

Mund të blini kapacitet duke zgjedhur butonin Shto kapacitet në pjesën e sipërme djathtas të faqes suaj të nivelit të shkallëzimit. Ju lutemi shihni faqen kryesore të nivelit të shkallëzimit për detajet më të fundit mbi kuotat TPM për njësitë e tokenëve hyrës dhe dalës.

Pasi të zgjidhni llojin e tokenëve që do të blini, mund të vendosni drejtpërdrejt një shumë ose të lëvizni rrëshqitësin për të zgjedhur numrin e tokenëve që dëshironi të blini. Rrëshqitësi ju lejon t’i shihni lehtësisht ndryshimet e TPM-së te Përmbledhja ndërsa ndryshoni tokenët. Do t’ju japim gjithashtu një rekomandim për numrin e njësive që duhet të blini për të mbuluar trafikun tuaj të 30 ditëve të fundit.

Add token capacity dialog for gpt-4o with Input Tokens selected and input limit increasing from 40K to 60K

Pasi ta keni përfunduar zgjedhjen, zgjidhni Pagesa për të konfirmuar blerjen në dritaren modale të radhës.

Ju lutemi vini re se çmimet e shfaqura në përmbledhjen tonë janë tarifat tona standarde dhe nuk përfshijnë asnjë zbritje të negociuar në formularin e porosisë së organizatës suaj. Çdo zbritje e zbatueshme do të aplikohet dhe do të pasqyrohet në faturën që i lëshohet organizatës suaj. Çdo njësi e blerë do të jetë aktive deri në fillimin e periudhës së ardhshme të faturimit dhe pas kësaj do të rinovohet çdo ditë.

Si t’i aktivizoj thirrjet që të përdorin tokenët e nivelit të shkallëzimit?

Duhet ta vendosni në aktiv çelësin Scale Tier Enabled te Cilësimet e projektit.

Nëse po përdorni API-në Completions, ju lutemi shihni edhe dokumentacionin tonë që shpjegon çelësin service_tier, për të vendosur nëse duhet ta caktoni manualisht apo të mbështeteni te sjellja e parazgjedhur.

Thirrjet në API-në Responses kanë si parazgjedhje service_tier=auto. Nëse një projekt ka të aktivizuar nivelin e shkallëzimit, kërkesat që e lënë jashtë service_tier (ose përdorin auto) do të përdorin si parazgjedhje nivelin e shkallëzimit kur kuota e tij është e disponueshme. Kërkesat me service_tier=default do të përdorin kapacitetin e përbashkët/PAYG të llogaritjes.

Si mund ta shoh historikun e blerjeve dhe tokenët e skaduar?

Mund ta shihni historikun e blerjeve të nivelit të shkallëzimit në faqen tuaj të nivelit të shkallëzimit duke zgjedhur një model te Tokenët e provizionuar.

Provisioned tokens table with active allocations for gpt-4o and gpt-4o-mini

Pasi të zgjidhni një model, do të mund të shihni Tokenët e skaduar dhe Transaksionet e mëparshme në fund të faqes.

Image

Si mund ta ndryshoj kapacitetin tim të tokenëve?

Mund ta ndryshoni kapacitetin e tokenëve të një modeli duke zgjedhur një model te Tokenët e provizionuar në faqen tuaj të nivelit të shkallëzimit. Pasi të zgjidhni një model, gjeni blerjen tuaj nën titullin Aktive dhe zgjidhni Anulo pranë blerjes suaj për ta ndryshuar

Image

Në dritaren modale, mund të vendosni drejtpërdrejt numrin e njësive që do të anulohen ose të përdorni rrëshqitësin për të simuluar TPM-në ndërsa bëni zgjedhjen.

Edit Token Capacity dialog for gpt-4o canceling 1 package and reducing output limit TPM from 2.248M to 2.246M

Si mund t’i shoh RPM/TPM dhe përdorimin tim të nivelit të shkallëzimit?

Mund të shihni një përmbledhje të përdorimit të API-së për organizatën tuaj në faqen tuaj të nivelit të shkallëzimit. Të gjitha datat dhe oraret bazohen në UTC dhe të dhënat mund të vonohen deri në 5 minuta.

Input token usage chart for the last 30 days with several spikes and a peak near 700K

Mund ta rishikoni përdorimin tuaj në Panelin e aktivitetit të përdorimit duke zgjedhur modelet tuaja të nivelit të shkallëzimit në menynë rënëse të modeleve. Këto të dhëna mund t’i shihni në një dritare 30-ditore, 1-ditore dhe 15-minutëshe. Të dhënat tuaja të përdorimit paraqiten të grumbulluara për të treguar sasinë e përdorimit për modelin e mbuluar nga niveli juaj i shkallëzimit kundrejt sasisë së përdorimit të mbuluar nga plani i llogarisë suaj.

Ju lutemi vini re se vetëm pronarët e organizatës mund ta shohin Panelin e përdorimit.

Kur do ta shoh ndryshimin e kapacitetit tim të tokenëve të pasqyruar në panelin e përdorimit?

Mund të duhen deri në 24 orë që ndryshimet që bëni të pasqyrohen. Vetë ndryshimet do të hyjnë në fuqi pothuajse menjëherë.

A ishte i dobishëm ky artikull?