OpenAI
Aquesta pàgina s'ha traduït automàticament. Mostra l'article original en anglès.

Plataforma d'API: nivell d'escalat per a clients Enterprise existents

Actualització: yesterday

El nivell d'escalat de la plataforma d'API us permet comprar per avançat un nombre determinat de segments d'entrada i de sortida de l'API per minut (anomenats «unitats de segments») per accedir a una instantània de model dedicada. Cada unitat de segments es compra per un mínim de 30 dies.

Un cop hàgiu signat un formulari de comanda, podeu afegir i eliminar unitats de segments des del vostre compte de la plataforma d'API. Tingueu en compte que només els propietaris de l'organització i els usuaris autoritzats poden veure la configuració del nivell d'escalat i comprar unitats de segments d'entrada i de sortida.


Més informació sobre els preus del nivell d'escalat.

Com puc accedir a la configuració del nivell d'escalat?

Els propietaris d'una organització de la plataforma d'API poden accedir a la configuració del nivell d'escalat seleccionant la icona d'engranatge de Configuració a la part superior dreta de la pàgina i seleccionant Nivell d'escalat a la secció «Organització» del menú de l'esquerra de la pantalla.

Image

La pàgina de configuració del nivell d'escalat us permet afegir més capacitat, veure l'ús de segments d'entrada, planificar la capacitat, veure els segments proveïts i revisar els compradors autoritzats.

Com puc comprar més capacitat?

Podeu comprar capacitat seleccionant el botó Afegeix capacitat a la part superior dreta de la pàgina del nivell d'escalat. Consulteu la nostra pàgina principal del nivell d'escalat per veure la informació més recent sobre les assignacions de TPM per unitats de segments d'entrada i de sortida.

Després de seleccionar el tipus de segments que comprareu, podeu introduir directament una quantitat o moure el control lliscant per seleccionar el nombre de segments que voleu comprar. El control lliscant us permet veure fàcilment els canvis de TPM a Resum a mesura que canvieu els segments. També us recomanarem el nombre d'unitats que cal comprar per cobrir el trànsit dels darrers 30 dies.

Add token capacity dialog for gpt-4o with Input Tokens selected and input limit increasing from 40K to 60K

Un cop hàgiu finalitzat la selecció, seleccioneu Pagament per confirmar la compra al modal següent.

Tingueu en compte que els preus que es mostren al resum són les nostres tarifes estàndard i no inclouen cap descompte negociat al formulari de comanda de la vostra organització. Els descomptes aplicables s'aplicaran i es reflectiran a la factura emesa a la vostra organització. Les unitats comprades estaran actives fins a l'inici del període de facturació següent i, després, es renovaran diàriament.

Com habilito les crides perquè facin servir segments del nivell d'escalat?

Heu d'activar el commutador Scale Tier Enabled a Configuració del projecte.

Si feu servir l'API Completions, consulteu també la nostra documentació, que explica la clau service_tier, per decidir si l'heu de definir manualment o confiar en el comportament predeterminat.

Les crides a l'API Responses fan servir service_tier=auto de manera predeterminada. Si un projecte té Scale Tier Enabled, les sol·licituds que ometen service_tier (o fan servir auto) utilitzaran el nivell d'escalat de manera predeterminada quan hi hagi quota de nivell d'escalat disponible. Les sol·licituds amb service_tier=default faran servir càlcul compartit/PAYG.

Com puc veure l'historial de compres i els segments vençuts?

Podeu veure l'historial de compres del nivell d'escalat a la pàgina del nivell d'escalat seleccionant un model a Segments proveïts.

Provisioned tokens table with active allocations for gpt-4o and gpt-4o-mini

Un cop hàgiu seleccionat un model, podreu veure Segments vençuts i Transaccions anteriors a la part inferior de la pàgina.

Image

Com puc editar la meva capacitat de segments?

Podeu editar la capacitat de segments d'un model seleccionant un model a Segments proveïts a la pàgina del nivell d'escalat. Un cop hàgiu seleccionat un model, cerqueu la compra sota l'encapçalament Actiu i seleccioneu Cancel·la al costat de la compra per editar-la.

Image

Al modal, podeu introduir directament el nombre d'unitats que voleu cancel·lar o fer servir el control lliscant per modelar el TPM mentre feu la selecció.

Edit Token Capacity dialog for gpt-4o canceling 1 package and reducing output limit TPM from 2.248M to 2.246M

Com puc veure l'RPM/TPM i l'ús del nivell d'escalat?

Podeu veure un resum de l'ús de l'API de la vostra organització a la pàgina del nivell d'escalat. Totes les dates i hores es basen en UTC, i les dades poden tenir un retard de fins a 5 minuts.

Input token usage chart for the last 30 days with several spikes and a peak near 700K

Podeu revisar l'ús al Tauler d'ús d'activitat seleccionant els models del nivell d'escalat al menú desplegable de models. Podeu veure aquestes dades en finestres de 30 dies, 1 dia i 15 minuts. Les dades d'ús s'apilen per mostrar la quantitat d'ús del model cobert pel nivell d'escalat en comparació amb la quantitat d'ús coberta pel pla del vostre compte.

Tingueu en compte que només els propietaris de l'organització poden veure el Tauler d'ús.

Quan veuré reflectit el canvi de capacitat de segments al tauler d'ús?

Els canvis que feu poden trigar fins a 24 hores a reflectir-se. Els canvis en si entraran en vigor gairebé instantàniament.

T'ha estat útil aquest article?