हम उन API ग्राहकों के लिए तेज़ मोड उपलब्ध कराते हैं, जो कुछ मॉडलों पर अधिक तेज़ और सुसंगत प्रदर्शन चाहते हैं. यह कैसे काम करता है, इसकी कीमत, मॉडल उपलब्धता, रेट लिमिट, विश्वसनीयता, नीतियों और पात्रता से जुड़े सामान्य प्रश्नों के उत्तर नीचे दिए गए हैं.
ध्यान दें: 30 जुलाई, 2026 को प्राथमिकता प्रोसेसिंग का नाम बदलकर तेज़ मोड कर दिया गया था. आप अपने API अनुरोधों में service_tier: priority या service_tier: fast में से किसी का भी उपयोग कर सकते हैं.
अधिक जानकारी यहाँ पाएं.
क्या तेज़ मोड सभी क्षेत्रों में उपलब्ध है?
तेज़ मोड की उपलब्धता प्रत्येक अधिकार क्षेत्र में लागू कानूनों और विनियमों पर निर्भर करती है. अपने क्षेत्र में उपलब्धता से जुड़े प्रश्नों के लिए कृपया अपने खाता निदेशक से संपर्क करें.
यह कैसे काम करता है
ग्राहक मौजूदा service_tier पैरामीटर में service_tier = "fast" विकल्प का उपयोग करके हर अनुरोध के लिए ट्रैफ़िक को तेज़ मोड पर भेज सकते हैं.
तेज़ मोड में प्रोसेस किए गए टोकन का शुल्क प्रति टोकन के आधार पर लिया जाएगा. यह दर मानक प्रोसेसिंग की दर से अधिक होगी.
हर अनुरोध के लिए सेटिंग करने के अलावा, आप प्रोजेक्ट सेटिंग > डिफ़ॉल्ट सर्विस टियर: तेज़ में जाकर पूरे प्रोजेक्ट के लिए तेज़ मोड को डिफ़ॉल्ट भी बना सकते हैं. फिर भी आप किसी भी अनुरोध के लिए यह सेटिंग बदल सकते हैं. प्रोजेक्ट सेटिंग में तेज़ चुनना, प्राथमिकता चुनने के बराबर है.
यह स्केल टियर के साथ कैसे काम करता है?
स्केल टियर, तेज़ मोड से अलग रहेगा. तेज़ मोड को भेजे गए अनुरोधों का शुल्क अलग से लिया जाएगा और उन्हें आपके खरीदे गए स्केल टियर टीपीएम बंडल में नहीं गिना जाएगा.
क्या स्केल टियर की सीमा से अधिक होने पर मेरा अतिरिक्त ट्रैफ़िक अपने-आप तेज़ मोड पर भेजा जा सकता है?
नहीं. स्केल टियर को भेजा गया ट्रैफ़िक उसकी सीमा से अधिक होने पर अपने-आप तेज़ मोड पर नहीं जाएगा.
तेज़ मोड का शुल्क कैसे लिया जाता है?
तेज़ मोड में प्रोसेस किए गए टोकन का शुल्क प्रति टोकन के आधार पर लिया जाएगा. यह दर मानक प्रोसेसिंग की दर से अधिक होगी.
क्या मेरी वार्षिक खर्च प्रतिबद्धता किसी ख़ास प्रोसेसिंग मोड से जुड़ी है?
नहीं. सभी प्रोसेसिंग मोड पर किया गया खर्च आपकी वार्षिक एंटरप्राइज़ खर्च प्रतिबद्धता में गिना जाता है.
क्या कैश किए गए इनपुट टोकन पर मुझे अब भी छूट मिलती है?
हाँ! कैश किए गए इनपुट पर वही 50-75% छूट मिलती है जो मानक प्रोसेसिंग में मिलती है.
मैं तेज़ मोड का अपना उपयोग और खर्च कैसे देखूँ?
तेज़ मोड (जिसे पहले प्राथमिकता प्रोसेसिंग कहा जाता था) में प्रोसेस किए गए टोकन देखने के लिए उपयोग डैशबोर्ड पर जाएँ, चैट कम्प्लीशन्स या रिस्पॉन्सेस चुनें, फिर सर्विस टियर के अनुसार समूह बनाएँ.
तेज़ मोड का खर्च देखने के लिए उपयोग डैशबोर्ड पर जाएँ और मद के अनुसार समूह बनाने का विकल्प चुनें.
उपयोग डैशबोर्ड पर, service_tier के रूप में priority या fast का उपयोग करने वाले अनुरोध priority के रूप में ही दिखाई देते रहेंगे. भविष्य के मॉडल के लिए इसे अपडेट किया जाएगा.
मॉडल
क्या लंबे संदर्भ, फ़ाइन-ट्यून किए गए मॉडल, एम्बेडिंग आदि के लिए तेज़ मोड उपलब्ध है?
फ़िलहाल नहीं. भविष्य में हम इस पर विचार करेंगे कि अपने नवीनतम मॉडल के अलावा अन्य उत्पादों पर भी तेज़ मोड उपलब्ध कराया जाए या नहीं.
तेज़ मोड में अन्य प्रकार के इनपुट और आउटपुट कैसे काम करते हैं?
तेज़ मोड में मानक मोड जैसी ही बहु-माध्यम क्षमताएँ उपलब्ध हैं. विशेष रूप से, प्राथमिकता प्रोसेसिंग में चित्रों का इस्तेमाल इनपुट के तौर पर किया जा सकता है और उन्हें उतनी ही कम देरी के साथ प्रोसेस किया जाता है.
क्या भविष्य के मॉडल के लिए भी यह उपलब्ध होगा?
हम नए GPT मॉडल पर तेज़ मोड उपलब्ध कराने की योजना बना रहे हैं, लेकिन इसकी गारंटी नहीं है कि यह हर मॉडल के लिए उपलब्ध होगा.
रेट लिमिट
रेट लिमिट क्या हैं?
रेट लिमिट के लिए प्राथमिकता प्रोसेसिंग का उपयोग मानक एपीआई ट्रैफ़िक की तरह ही गिना जाता है.
रैम्प रेट की सीमाएँ क्या हैं?
तेज़ मोड में रैम्प रेट की सीमाएँ हैं, ताकि सभी ग्राहकों को लगातार बेहतर प्रदर्शन मिले और साथ ही माँग के आधार पर लचीली कीमतों की सुविधा भी बनी रहे. अगर (क) तेज़ मोड का प्रदर्शन गिरता है और साथ ही (ख) किसी ग्राहक का ट्रैफ़िक बहुत तेज़ी से बढ़ रहा है, तो कुछ दुर्लभ मामलों में कुछ अनुरोधों को मानक प्रोसेसिंग पर भेजा जा सकता है.
तेज़ मोड की मौजूदा रैम्प रेट सीमा यहाँ हमारे मुख्य दस्तावेज़ों में दी गई है.
अपनी रैम्प रेट सीमा के भीतर रहने के सर्वोत्तम तरीके
मॉडल बदलते समय ट्रैफ़िक धीरे-धीरे बढ़ाएँ. उदाहरण के लिए, अगर आपका एप्लिकेशन पुराने स्नैपशॉट से नए पर जा रहा है, तो फ़ीचर फ़्लैग का उपयोग करके ट्रैफ़िक को एक साथ भेजने के बजाय कुछ घंटों में धीरे-धीरे नए स्नैपशॉट पर ले जाएँ.
तेज़ मोड पर बड़े डेटा प्रोसेसिंग कार्य या अतुल्यकालिक कार्य चलाने से बचें. इन कार्यों से ट्रैफ़िक बहुत तेज़ी से बढ़ सकता है और अक्सर इन्हें तेज़ मोड के बेहतर प्रदर्शन की ज़रूरत भी नहीं होती.
अगर आप अक्सर रैम्प रेट सीमाओं तक पहुँच जाते हैं, तो इसके बजाय स्केल टियर कोटा खरीदने पर विचार करें.
क्या मेरे सभी प्रोजेक्ट या संगठनों पर साझा रैम्प रेट सीमा लागू होती है?
हाँ, आपका पूरा ट्रैफ़िक एक ही रैम्प रेट सीमा में गिना जाता है.
नीतियाँ
अगर तेज़ मोड तय प्रतिक्रिया समय के लक्ष्य को पूरा नहीं करता, तो क्या होगा?
किसी भी सवाल या चिंता के लिए कृपया अपने एडी से संपर्क करें. तेज़ मोड के सेवा-स्तर समझौतों पर स्केल टियर के सेवा-स्तर समझौतों जैसे ही नियम लागू होंगे. अगर हम किसी तय समयावधि में एंटरप्राइज़ अनुबंध वाले ग्राहकों के लिए इन समझौतों की शर्तें पूरी नहीं कर पाते, तो सेवा क्रेडिट्स दिए जाएँगे.
क्या तेज़ मोड डेटा रेज़िडेंसी के साथ काम करता है?
हाँ.
क्या तेज़ मोड ज़ेडडीआर और बीएए के साथ काम करता है?
हाँ.
GPT-6 Astra के लिए अल्ट्राफ़ास्ट
अल्ट्राफ़ास्ट एक अलग सर्विस टियर है. यह उन कार्यभारों के लिए है जिन्हें GPT-6 Astra से कम देरी में जवाब चाहिए, जैसे इंटरैक्टिव एप्लिकेशन और कोडिंग कार्यप्रवाह.
तेज़ मोड की कीमतें, रेट लिमिट और नीतिगत दिशानिर्देश service_tier="fast" का उपयोग करने वाले अनुरोधों पर लागू होते हैं. अल्ट्राफ़ास्ट अनुरोध अलग service_tier="ultrafast" टियर का उपयोग करते हैं.
मैं अल्ट्राफ़ास्ट अनुरोध कैसे भेजूँ?
जिस संगठन को अल्ट्राफ़ास्ट का ऐक्सेस मिला है, उसके लिए रिस्पॉन्सेस एपीआई में ये सेटिंग इस्तेमाल करें:
मॉडल:
gpt-6-astraसर्विस टियर:
ultrafastअनुरोध हेडर:
OpenAI-Service-Tier: ultrafast
सर्विस टियर की सेटिंग के अलावा अनुरोध हेडर भी ज़रूरी है.
टूल कॉल चलाने वाले एप्लिकेशन में, वेबसॉकेट मोड आपको बातचीत के अगले दौरों में उसी कनेक्शन का दोबारा उपयोग करने देता है, जिससे कनेक्शन बनाने में लगने वाले अतिरिक्त संसाधन और समय कम होते हैं.
क्या मैं दूसरे सर्विस टियर के लिए भी यही अनुरोध हेडर इस्तेमाल कर सकता हूँ?
अल्ट्राफ़ास्ट के अल्फ़ा चरण के दौरान, OpenAI-Service-Tier हेडर केवल ultrafast स्वीकार करता है. default, fast या flex सहित कोई भी अन्य मान भेजने पर HTTP 400 त्रुटि मिलती है. दूसरे टियर का उपयोग करते समय यह हेडर न भेजें.
क्या मैं वर्क या Codex में अल्ट्राफ़ास्ट का उपयोग कर सकता हूँ?
पात्र प्लान और कार्यस्थानों के लिए वर्क और Codex में भी अल्ट्राफ़ास्ट उपलब्ध है. ChatGPT प्लान की पात्रता और उपयोग के नियम एपीआई ऐक्सेस से अलग हैं.
उपलब्धता और उपयोग की जानकारी के लिए ChatGPT वर्क और Codex देखें.
