Oferim modul rapid clienților API care doresc performanțe mai rapide și mai constante pentru anumite modele. Mai jos găsești răspunsuri la întrebări frecvente despre funcționare, prețuri, disponibilitatea modelelor, limite de rată, fiabilitate, politici și eligibilitate.
Notă: procesarea prioritară a fost redenumită mod rapid pe 30 iulie 2026. Poți folosi fie service_tier: priority, fie service_tier: fast în cererile API.
Află mai multe despre modul rapid.
Modul rapid este disponibil în toate regiunile?
Disponibilitatea modului rapid depinde de legile și reglementările aplicabile în fiecare jurisdicție. Contactează reprezentantul OpenAI dacă ai întrebări despre disponibilitatea în regiunea ta.
Cum funcționează
Clienții pot direcționa traficul către modul rapid pentru fiecare cerere în parte, folosind parametrul existent service_tier cu opțiunea service_tier = "fast".
Tokenurile procesate în modul rapid vor fi facturate per token, la un tarif mai mare decât cel al procesării standard.
Pe lângă configurarea la nivel de cerere, poți seta modul rapid ca implicit pentru un proiect din Setările proiectului > Nivel serviciu implicit al proiectului: Rapid. Poți în continuare să suprascrii această setare pentru fiecare cerere. Selectarea opțiunii Rapid în setările proiectului este echivalentă cu selectarea opțiunii Prioritar.
Cum interacționează modul rapid cu Nivelul de scalare?
Nivelul de scalare va rămâne separat de modul rapid. Cererile trimise către modul rapid vor fi facturate separat și nu vor consuma din pachetele TPM achiziționate pentru Nivelul de scalare.
Pot trimite automat către modul rapid traficul care depășește cota Nivelului de scalare?
Nu. Traficul trimis către Nivelul de scalare care depășește cota nu va fi redirecționat automat către modul rapid.
Cum este facturat modul rapid?
Tokenurile procesate în modul rapid vor fi facturate per token, la un tarif mai mare decât cel al procesării standard.
Angajamentul meu anual este legat de un anumit mod de procesare?
Nu. Toate modurile de procesare sunt luate în calcul pentru îndeplinirea angajamentului tău anual de cheltuieli Enterprise.
Beneficiez în continuare de o reducere pentru tokenurile de intrare din cache?
Da. Tokenurile de intrare eligibile din cache beneficiază de aceleași reduceri ca în cazul procesării standard.
Cum văd utilizarea și costurile modului rapid?
Pentru a vedea tokenurile procesate în modul rapid (denumit anterior procesare prioritară), accesează Panoul de utilizare, selectează Completări de chat sau Răspunsuri, apoi selectează Grupează după nivel serviciu.
Pentru a vedea costul modului rapid, accesează Panoul de utilizare și selectează Grupează după element de facturare.
În Panoul de utilizare, cererile în modul rapid pentru GPT-5.6 și modelele anterioare apar ca priority, chiar dacă cererea specifică fast.
Modele
Modul rapid acceptă contexte lungi, modele ajustate fin sau reprezentări vectoriale?
Modelele GPT-5.6 acceptă contexte lungi în modul rapid. Modul rapid nu acceptă modele ajustate fin sau reprezentări vectoriale.
Cum funcționează celelalte modalități în modul rapid?
Modul rapid oferă aceleași capacități multimodale ca procesarea standard. În special, imaginile pot fi folosite ca date de intrare în modul rapid și sunt procesate cu aceeași latență redusă.
Va exista suport pentru modelele viitoare?
Intenționăm să oferim modul rapid pentru noile modele GPT, dar nu garantăm că va fi disponibil pentru fiecare model.
Limite de rată
Care sunt limitele de rată?
În privința limitelor de rată, consumul în modul rapid este tratat la fel ca traficul API standard.
Care sunt limitele ritmului de creștere?
Modul rapid limitează ritmul de creștere pentru a asigura performanțe constant ridicate pentru toți clienții, oferind totodată prețuri flexibile, în funcție de utilizare. Dacă (a) performanța modului rapid scade ȘI (b) traficul unui client crește prea repede, atunci, în cazuri rare, unele cereri pot fi trecute la procesarea standard.
Limita actuală a ritmului de creștere pentru modul rapid este definită în documentația modului rapid.
Bune practici pentru respectarea limitei ritmului de creștere
Mărește treptat traficul când schimbi modelele. De exemplu, dacă aplicația ta trece de la o versiune anterioară a modelului la una nouă, folosește un indicator de activare a funcționalității pentru a transfera traficul pe parcursul câtorva ore, nu tot deodată.
Evită să rulezi în modul rapid sarcini de procesare a unor volume mari de date sau sarcini asincrone. Aceste sarcini pot crește traficul foarte repede și, adesea, nu au nevoie de performanța îmbunătățită a modului rapid.
Dacă atingi frecvent limitele ritmului de creștere, ia în considerare achiziționarea unei cote pentru Nivel de scalare.
Limitele ritmului de creștere sunt comune tuturor proiectelor sau organizațiilor mele?
Da, tot traficul tău este luat în calcul pentru aceeași limită a ritmului de creștere.
Politici
Ce se întâmplă dacă modul rapid nu atinge ținta de latență?
Modul rapid pentru GPT-6 Astra nu are un SLA privind latența. Pentru GPT-5.6 și modelele anterioare, modul rapid și Nivel de scalare beneficiază de aceleași condiții SLA. Acordurile Enterprise eligibile pot prevedea acordarea de credite pentru servicii atunci când țintele de latență nu sunt atinse. Dacă ai întrebări, contactează directorul responsabil de contul tău.
Modul rapid este compatibil cu rezidența datelor?
Da, în funcție de disponibilitatea pentru fiecare model. Rezidența datelor în UE este acceptată pentru GPT-6.1 Sol, GPT-6 Sol și GPT-6 Luna, dar nu și pentru GPT-6 Astra.
Modul rapid este compatibil cu ZDR și BAA?
Da, sub rezerva cerințelor aplicabile privind modelul, punctul final, instrumentele, eligibilitatea și contractul.
Ultrarapid pentru GPT-6 Astra și GPT-6.1 Sol
Ultrarapid este un nivel serviciu separat pentru sarcini care necesită răspunsuri GPT-6 Astra și GPT-6.1 Sol cu latență mai redusă, cum ar fi aplicațiile interactive și fluxurile de lucru de programare.
Informațiile despre prețuri, limite de rată și politici pentru modul rapid se aplică cererilor care folosesc service_tier="fast". Cererile Ultrarapid folosesc nivelul separat service_tier="ultrafast".
Cum trimit o cerere Ultrarapid?
Pentru o organizație cu acces la Ultrarapid, folosește API-ul Responses cu:
Model:
gpt-6-astrasaugpt-6.1-solNivel serviciu:
ultrafastAntet opțional al cererii:
OpenAI-Service-Tier: ultrafast
Antetul cererii este opțional. Dacă îl incluzi, valoarea sa trebuie să corespundă nivelului serviciu din corpul cererii.
Pentru aplicațiile care execută apeluri de instrumente, modul WebSocket permite reutilizarea unei conexiuni între interacțiuni și reducerea timpului suplimentar necesar conectării.
Pot folosi același antet de cerere pentru alte niveluri serviciu?
Dacă este inclus, antetul OpenAI-Service-Tier acceptă fast sau ultrafast. Dacă treci la alt nivel serviciu, precum default, fast sau flex, actualizează sau omite antetul, astfel încât acesta să corespundă cererii.
Pot folosi Ultrarapid în Work sau Codex?
Ultrarapid este disponibil și în Work și Codex pentru planurile și spațiile de lucru eligibile. Eligibilitatea și utilizarea în cadrul planurilor ChatGPT diferă de cele pentru accesul prin API.
Consultă ChatGPT Work și Codex pentru detalii despre disponibilitate și utilizare.
