OpenAI

API Platform - मौजूदा एंटरप्राइज़ ग्राहकों के लिए स्केल टियर

अपडेट किया गया: 2 days ago

API प्लेटफ़ॉर्म पर 'स्केल टियर' आपको एक डेडिकेटेड मॉडल स्नैपशॉट तक पहुँच के लिए, प्रति मिनट API इनपुट और आउटपुट टोकन की एक निर्धारित संख्या (जिन्हें "टोकन यूनिट" कहा जाता है) पहले से खरीदने की सुविधा देता है. हर टोकन यूनिट कम से कम 30 दिनों के लिए ख़रीदा जाता है.

एक बार जब आप ऑर्डर फ़ॉर्म पर हस्ताक्षर कर लेते हैं, तो आप अपने API Platform खाते के माध्यम से टोकन यूनिट्स जोड़ और हटा सकते हैं.. कृपया ध्यान दें कि केवल संस्था के मालिक और अधिकृत उपयोगकर्ता ही स्केल टियर की सेटिंग्स देख सकते हैं, और इनपुट तथा आउटपुट टोकन यूनिट खरीद सकते हैं.

स्केल टियर की कीमतों के बारे में और जानें.

मैं अपनी स्केल टियर सेटिंग्स कैसे एक्सेस कर सकता हूँ?

API Platform संस्था के मालिक, पेज के ऊपरी-दाएँ कोने में मौजूद सेटिंग्स गियर को चुनकर और स्क्रीन के बाईं ओर के मेनू में "संस्था" सेक्शन के तहत स्केल टिय को चुनकर, अपनी स्केल टिय सेटिंग्स को एक्सेस कर सकते हैं.

Image

स्केल टियर सेटिंग पेज आपको अतिरिक्त क्षमता जोड़ने, अपने इनपुट टोकन के उपयोग को देखने, क्षमता की योजना बनाने, अपने प्रोविज़न किए गए टोकन देखने और अपने अधिकृत खरीदारों की समीक्षा करने की सुविधा देता है.

मैं और ज़्यादा क्षमता कैसे खरीद सकता हूँ?

आप अपने स्केल टिय पेज के ऊपर-दाईं ओर मौजूद 'Add capacity' बटन को चुनकर क्षमता खरीद सकते हैं. इनपुट और आउटपुट टोकन इकाइयों के अनुसार TPM एंटाइटलमेंट के बारे में नवीनतम विवरण के लिए, कृपया हमारा स्केल टिय मुख्य पृष्ठ देखें.

आप जिस प्रकार के टोकन खरीदना चाहते हैं, उसे चुनने के बाद आप सीधे राशि दर्ज कर सकते हैं, या स्लाइडर को खिसकाकर उन टोकन की संख्या चुन सकते हैं जिन्हें आप खरीदना चाहते हैं. स्लाइडर आपको टोकन बदलते समय, Summary के अंतर्गत TPM परिवर्तनों को आसानी से देखने में सक्षम बनाता है. हम आपको यह सुझाव भी देंगे कि पिछले 30 दिनों के आपके ट्रैफ़िक को कवर करने के लिए आपको कितनी यूनिट्स खरीदनी चाहिए.

Add token capacity dialog for gpt-4o with Input Tokens selected and input limit increasing from 40K to 60K

एक बार जब आप अपना चयन पक्का कर लें, तो अगले मॉडल में अपनी खरीदारी की पुष्टि करने के लिए 'चेकआउट' चुनें.

कृपया ध्यान दें कि हमारी सारांश में दिखाई गई कीमतें हमारी मानक दरें हैं, और इनमें आपकी संस्था के ऑर्डर फ़ॉर्म में तय की गई कोई भी छूट शामिल नहीं है. कोई भी लागू छूट दी जाएगी और आपके संस्था को जारी किए गए इनवॉइस में दिखाई देगी. खरीदी गई कोई भी यूनिट अगले इनवॉइस पीरियड की शुरुआत तक एक्टिव रहेगी, और उसके बाद रोज़ाना रिन्यू होगी.

मैं स्केल टिय टोकन का उपयोग करने के लिए कॉल्स को कैसे सक्षम करूँ?

आपको Project सेटिंग्स के अंतर्गत स्केल टिय Enabled टॉगल को 'on' पर सेट करना होगा.

अगर आप Completions API का इस्तेमाल कर रहे हैं, तो कृपया हमारे docs भी देखें, जिनमें service_tier key के बारे में बताया गया है; इससे आप यह तय कर पाएँगे कि आपको इसे मैन्युअली सेट करना चाहिए या डिफ़ॉल्ट व्यवहार पर निर्भर रहना चाहिए.

रिस्पांस API पर किए जाने वाले कॉल डिफ़ॉल्ट रूप से service_tier=auto पर सेट होते हैं. यदि किसी प्रोजेक्ट में स्केल टिय सक्षम है, तो service_tier को छोड़ने वाले (या auto का उपयोग करने वाले) अनुरोध, स्केल टिय कोटा उपलब्ध होने पर डिफ़ॉल्ट रूप से स्केल टिय का उपयोग करेंगे. service_tier=default वाले अनुरोध shared/PAYG कंप्यूट का इस्तेमाल करेंगे.

मैं अपनी खरीदारी का इतिहास और समाप्त हो चुके टोकन कैसे देख सकता हूँ?

आप स्केल टिय पेज पर 'प्रोविज़न्ड टोकन' के अंतर्गत कोई मॉडल चुनकर अपनी स्केल टिय खरीदारी का इतिहास देख सकते हैं.

Provisioned tokens table with active allocations for gpt-4o and gpt-4o-mini

एक बार जब आप कोई मॉडल चुन लेते हैं, तो आप पेज के निचले हिस्से में एक्सपायर्ड टोकन और पिछली ट्रांज़ैक्शन देख पाएँगे.

Image

मैं अपनी टोकन क्षमता को कैसे संपादित कर सकता हूँ?

आप अपने स्केल टियर पेज पर प्रोविज़न्ड टोकन के अंतर्गत किसी मॉडल को चुनकर, उस मॉडल की टोकन क्षमता को संपादित कर सकते हैं. एक बार जब आप कोई मॉडल चुन लेते हैं, तो सक्रिय हेडर के नीचे अपनी खरीदारी ढूंढें और उसे एडिट करने के लिए अपनी खरीदारी के आगे 'रद्द करें' चुनें

Image

मॉडल में, आप रद्द की जाने वाली यूनिट्स की संख्या सीधे डाल सकते हैं, या अपनी पसंद के अनुसार TPM को मॉडल करने के लिए स्लाइडर का उपयोग कर सकते हैं.

Edit Token Capacity dialog for gpt-4o canceling 1 package and reducing output limit TPM from 2.248M to 2.246M

मैं अपना स्केल टिय RPM/TPM और उपयोग कैसे देख सकता हूँ?

आप अपने संगठन के API उपयोग का सारांश अपने स्केल टियर पेज पर देख सकते हैं. सभी तारीखें और समय UTC पर आधारित हैं, और डेटा में 5 मिनट तक की देरी हो सकती है.

Input token usage chart for the last 30 days with several spikes and a peak near 700K

आप मॉडल्स ड्रॉप-डाउन में अपने स्केल टिय मॉडल्स को चुनकर एक्टिविटी यूसेज डैशबोर्ड में अपने उपयोग की समीक्षा कर सकते हैं. आप इस डेटा को 30 दिन, 1 दिन और 15 मिनट की विंडो में देख सकते हैं. आपका उपयोग डेटा इस तरह से व्यवस्थित किया गया है कि यह आपके स्केल टिय के अंतर्गत आने वाले मॉडल के उपयोग की मात्रा को, आपके खाता प्लान के अंतर्गत आने वाले उपयोग की मात्रा के मुकाबले दिखाता है.

मेरी टोकन क्षमता में हुआ बदलाव मुझे यूसेज डैशबोर्ड पर कब दिखाई देगा.

टोकन क्षमता में बदलाव यूसेज डैशबोर्ड पर कब दिखेगा?

आपके किए गए बदलावों को दिखने में 24 घंटे तक लग सकते हैं. ये बदलाव लगभग तुरंत ही लागू हो जाएंगे.

क्या यह लेख मददगार था?