Nivel de scalare de pe Platforma API îți permite să achiziționezi în avans un număr stabilit de tokenuri API de intrare și de ieșire pe minut (numite „unități de token”) pentru acces la un snapshot dedicat al modelului. Fiecare unitate de token se achiziționează pentru minimum 30 de zile.
După ce ai semnat un formular de comandă, poți adăuga și elimina unități de token prin contul tău de pe Platforma API. Reține că numai proprietarii organizației și utilizatorii autorizați pot vedea setările pentru Nivel de scalare și pot achiziționa unități de token de intrare și de ieșire.
Află mai multe despre prețurile pentru Nivel de scalare.
Cum pot accesa setările pentru Nivel de scalare?
Proprietarii organizației de pe Platforma API pot accesa setările pentru Nivel de scalare selectând rotița Setări din dreapta sus a paginii și selectând Nivel de scalare sub secțiunea „Organizație” din meniul din partea stângă a ecranului.
Pagina de setări pentru Nivel de scalare îți permite să adaugi mai multă capacitate, să vezi utilizarea tokenurilor de intrare, să planifici capacitatea, să vezi tokenurile alocate și să consulți cumpărătorii autorizați.
Cum pot achiziționa mai multă capacitate?
Poți achiziționa capacitate selectând butonul Adăugați capacitate din dreapta sus pe pagina Nivel de scalare. Consultă pagina principală Nivel de scalare pentru cele mai recente detalii despre alocările TPM pentru fiecare unitate de tokenuri de intrare și de ieșire.
După ce selectezi tipul de tokenuri pe care îl vei achiziționa, poți introduce direct o cantitate sau poți muta glisorul pentru a selecta numărul de tokenuri pe care dorești să le achiziționezi. Glisorul îți permite să vezi cu ușurință modificările TPM în Rezumat pe măsură ce schimbi numărul de tokenuri. Îți vom oferi și o recomandare privind numărul de unități de achiziționat pentru a acoperi traficul din ultimele 30 de zile.
După ce ai finalizat selecția, selectează Finalizare comandă pentru a confirma achiziția în următoarea fereastră modală.
Reține că prețurile afișate în rezumat sunt tarifele noastre standard și nu includ reducerile negociate în formularul de comandă al organizației tale. Orice reduceri eligibile vor fi aplicate și reflectate în factura emisă către organizația ta. Orice unități achiziționate vor fi active până la începutul următoarei perioade de facturare și se vor reînnoi zilnic după aceea.
Cum permit apelurilor să folosească tokenuri Nivel de scalare?
Va trebui să setezi comutatorul Scale Tier Enabled din Setările proiectului pe activat.
Dacă folosești Completions API, consultă și documentația noastră care explică cheia service_tier, pentru a decide dacă ar trebui să o setezi manual sau să te bazezi pe comportamentul implicit.
Apelurile către Responses API au implicit service_tier=auto. Dacă un proiect are Scale Tier Enabled, solicitările care omit service_tier (sau folosesc auto) vor utiliza implicit Nivel de scalare atunci când cota Nivel de scalare este disponibilă. Solicitările cu service_tier=default vor folosi capacitate de calcul partajată/PAYG.
Cum pot vedea istoricul achizițiilor și tokenurile expirate?
Poți vedea istoricul achizițiilor pentru Nivel de scalare pe pagina ta Nivel de scalare, selectând un model în Tokenuri alocate.
După ce selectezi un model, vei putea vedea Tokenuri expirate și Tranzacții anterioare în partea de jos a paginii.
Cum îmi pot edita capacitatea de tokenuri?
Poți edita capacitatea de tokenuri a unui model selectând un model în Tokenuri alocate pe pagina ta Nivel de scalare. După ce selectezi un model, găsește achiziția în secțiunea Activ și selectează Anulați lângă achiziție pentru a o edita
În fereastra modală, poți introduce direct numărul de unități de anulat sau poți folosi glisorul pentru a simula TPM pe măsură ce faci selecția.
Cum pot vedea RPM/TPM și utilizarea pentru Nivel de scalare?
Poți vedea un rezumat al utilizării API pentru organizația ta pe pagina ta Nivel de scalare. Toate datele calendaristice și orele sunt bazate pe UTC, iar datele pot avea o întârziere de până la 5 minute.
Poți consulta utilizarea în Tabloul de bord pentru activitatea de utilizare selectând modelele Nivel de scalare în meniul derulant de modele. Poți vedea aceste date într-un interval de 30 de zile, 1 zi și 15 minute. Datele tale de utilizare sunt stivuite pentru a arăta volumul de utilizare pentru modelul acoperit de Nivel de scalare în raport cu volumul de utilizare acoperit de planul contului tău.
Reține că numai proprietarii organizației pot vedea Tabloul de bord pentru utilizare.
Când voi vedea modificarea capacității mele de tokenuri reflectată în tabloul de bord pentru utilizare?
Poate dura până la 24 de ore până când modificările făcute de tine vor fi reflectate. Modificările propriu-zise vor intra în vigoare aproape instantaneu.