आम्ही आता Enterprise API ग्राहकांसाठी प्राधान्य प्रक्रिया ऑफर करतो, ज्यांना काही मॉडेलवर अधिक जलद आणि अधिक सातत्यपूर्ण कार्यप्रदर्शनाचा प्रवेश हवा आहे. ती कशी कार्य करते, किंमत, मॉडेल उपलब्धता, रेट मर्यादा, विश्वसनीयता, धोरणे आणि पात्रता यांविषयी सामान्य प्रश्नांची उत्तरे खाली दिली आहेत.

अधिक जाणून घ्या येथे.

प्रवेश

प्राधान्य प्रक्रियेत कोणाला प्रवेश मिळू शकतो?

प्राधान्य प्रक्रिया सध्या Enterprise ग्राहकांसाठी उपलब्ध आहे.

प्राधान्य प्रक्रिया सर्व प्रदेशांमध्ये उपलब्ध आहे का?

प्राधान्य प्रक्रियेची उपलब्धता प्रत्येक अधिकारक्षेत्रातील लागू कायदे आणि नियमांवर अवलंबून असते. तुमच्या प्रदेशातील उपलब्धतेबद्दल प्रश्न असल्यास कृपया तुमच्या अकाउंट डायरेक्टरशी संपर्क साधा.

किंमत

मी प्राधान्य प्रक्रिया वापरण्यास कशी सुरुवात करू?

ग्राहक विद्यमान service_tier पॅरामीटर वापरून, service_tier="priority" या पर्यायासह, प्रत्येक विनंतीनुसार ट्रॅफिक प्राधान्य प्रक्रियेकडे निर्देशित करू शकतात.

हे स्केल टियरशी कसे परस्परसंवाद करते?

स्केल टियर प्राधान्य प्रक्रियेपासून वेगळेच राहील. प्राधान्य प्रक्रियेला पाठवलेल्या विनंत्यांचे बिलिंग वेगळे केले जाईल आणि त्या तुमच्या खरेदी केलेल्या स्केल टियर TPM बंडलमध्ये मोजल्या जाणार नाहीत.

मी माझा स्केल टियर स्पिलओव्हर ट्रॅफिक स्वयंचलितपणे प्राधान्य प्रक्रियेकडे पाठवू शकतो का?

नाही. स्केल टियरकडे पाठवलेला ट्रॅफिक स्वयंचलितपणे प्राधान्य प्रक्रियेकडे स्पिल ओव्हर होणार नाही.

प्राधान्य प्रक्रियेचे बिलिंग कसे केले जाते?

प्राधान्य प्रक्रियेद्वारे दिलेल्या टोकनचे बिलिंग प्रति-टोकन आधारावर केले जाईल, ज्याची किंमत मानक प्रक्रियेच्या दरांच्या तुलनेत प्रीमियमवर असेल.

माझी वार्षिक बांधिलकी एखाद्या विशिष्ट प्रक्रिया मोडशी जोडलेली आहे का?

नाही. सर्व प्रक्रिया मोड तुमच्या वार्षिक Enterprise खर्च बांधिलकीमध्ये मोजले जातात.

कॅश केलेल्या इनपुट टोकनवर मला अजूनही सवलत मिळते का?

होय! कॅश केलेल्या इनपुटना मानक प्रक्रियेप्रमाणेच 50-75% सवलत मिळते.

माझा प्राधान्य प्रक्रियेचा वापर आणि खर्च मी कसा पाहू?

प्राधान्य प्रक्रियेद्वारे प्रक्रिया केलेले टोकन पाहण्यासाठी, Usage डॅशबोर्डवर जा, Chat Completions किंवा Responses निवडा, आणि सेवा टियरनुसार गटबद्ध करा. प्राधान्य प्रक्रियेचा खर्च पाहण्यासाठी, Usage डॅशबोर्डवर जा आणि Line Item नुसार गटबद्ध करा निवडा.

मॉडेल

लांब संदर्भ, फाइन-ट्यून केलेले मॉडेल, एम्बेडिंग्ज इत्यादींसाठी प्राधान्य प्रक्रिया उपलब्ध आहे का?

सध्या नाही. आमच्या नवीनतम मॉडेलपलीकडे अतिरिक्त उत्पादनांवर प्राधान्य प्रक्रिया ऑफर करायची की नाही हे आम्ही भविष्यात मूल्यांकन करू.

प्राधान्य प्रक्रियेसह इतर मोडॅलिटीज कशा कार्य करतात?

प्राधान्य प्रक्रिया Standard वर उपलब्ध असलेल्या त्याच मल्टिमोडल क्षमतांना समर्थन देते. विशेषतः, प्रतिमा प्राधान्य प्रक्रियेसाठी इनपुट म्हणून वापरल्या जाऊ शकतात आणि त्यांची प्रक्रिया त्याच जलद लेटन्सीसह केली जाते.

भविष्यातील मॉडेल समर्थित असतील का?

आम्ही नवीन GPT मॉडेलवर प्राधान्य प्रक्रिया ऑफर करण्याची योजना आखतो, परंतु प्रत्येक मॉडेल समर्थित असेल याची आम्ही हमी देत नाही.

रेट मर्यादा

रेट मर्यादा काय आहेत?

रेट मर्यादांसाठी प्राधान्य प्रक्रियेचा वापर मानक API ट्रॅफिकप्रमाणेच हाताळला जातो.

रॅम्प रेट मर्यादा काय आहेत?

सर्व ग्राहकांसाठी सातत्याने उच्च कार्यप्रदर्शन सुनिश्चित करण्यासाठी, तसेच लवचिक, मागणीनुसार किंमत उपलब्ध करून देण्यासाठी प्राधान्य प्रक्रियेला रॅम्प रेट मर्यादा आहेत. जर (a) प्राधान्य प्रक्रियेचे कार्यप्रदर्शन कमी झाले आणि (b) ग्राहकाचा ट्रॅफिक खूप वेगाने वाढत असेल, तर क्वचित प्रसंगी काही प्राधान्य विनंत्या त्याऐवजी मानक प्रक्रियेत डाउनग्रेड केल्या जाऊ शकतात.

सध्याची प्राधान्य प्रक्रियेची रॅम्प रेट मर्यादा आमच्या मुख्य दस्तऐवजीकरणात येथे परिभाषित केली आहे.

तुमच्या रॅम्प रेट मर्यादेत राहण्यासाठी सर्वोत्तम पद्धती

• मॉडेल बदलताना ट्रॅफिक हळूहळू वाढवा. उदाहरणार्थ, तुमचा अनुप्रयोग मागील स्नॅपशॉटवरून नवीन स्नॅपशॉटकडे संक्रमण करत असल्यास, सर्व ट्रॅफिक एकाच वेळी हलवण्याऐवजी काही तासांच्या कालावधीत ट्रॅफिक हलवण्यासाठी फीचर फ्लॅग वापरा.

• मोठी डेटा प्रक्रिया किंवा असिंक्रोनस जॉब्स प्राधान्य प्रक्रियेवर चालवणे टाळा. हे जॉब्स ट्रॅफिक खूप वेगाने वाढवू शकतात, आणि त्यांना अनेकदा प्राधान्य प्रक्रियेच्या सुधारित कार्यप्रदर्शनाची गरज नसते.

• तुम्हाला नियमितपणे रॅम्प रेट मर्यादा येत असतील, तर त्याऐवजी स्केल टियर कोटा खरेदी करण्याचा विचार करा.

रॅम्प रेट मर्यादा माझ्या प्रकल्पांमध्ये किंवा संस्थांमध्ये सामायिक केल्या जातात का?

होय, तुमचा सर्व ट्रॅफिक त्याच रॅम्प रेट मर्यादेत योगदान देतो.

धोरणे

प्राधान्य प्रक्रिया लेटन्सी लक्ष्य पूर्ण करत नसेल तर काय होते?

कृपया कोणतेही प्रश्न किंवा चिंता असल्यास तुमच्या AD शी संपर्क साधा. प्राधान्य प्रक्रियेचे SLA स्केल टियर SLA प्रमाणेच हाताळले जातील; दिलेल्या वेळेच्या विंडोमध्ये Enterprise करारांवरील ग्राहकांसाठी आम्ही ती SLA पूर्ण करण्यात अपयशी ठरलो, तर सेवा क्रेडिट्स दिले जातील.

प्राधान्य प्रक्रिया डेटा रेसिडेन्सीशी सुसंगत आहे का?

होय.

प्राधान्य प्रक्रिया ZDR आणि BAA शी सुसंगत आहे का?

होय.