हे कसे काम करते

ग्राहक विद्यमान service_tier मापदंड आणि service_tier = "fast" हा पर्याय वापरून प्रत्येक विनंतीनुसार वाहतूक फास्ट मोडकडे वळवू शकतात.

फास्ट मोडद्वारे पुरवलेल्या टोकनचे बिल प्रत्येक टोकननुसार आकारले जाईल आणि त्याची किंमत मानक प्रक्रियेच्या दरांपेक्षा अधिक असेल.

विनंती स्तरावर संरचना करण्यासोबतच, प्रकल्प सेटिंग्ज > डीफॉल्ट सेवा टियर: फास्ट येथे प्रकल्पासाठी फास्ट मोड डीफॉल्ट म्हणूनही निवडू शकता. तरीही प्रत्येक विनंतीसाठी हा डीफॉल्ट बदलू शकता. प्रकल्प सेटिंग्जमध्ये फास्ट निवडणे हे प्राधान्य निवडण्यासारखेच आहे.

हे स्केल टियरसोबत कसे काम करते?

स्केल टियर फास्ट मोडपासून स्वतंत्र राहील. फास्ट मोडकडे पाठवलेल्या विनंत्यांचे बिल स्वतंत्रपणे आकारले जाईल आणि त्या तुम्ही खरेदी केलेल्या स्केल टियर TPM संचांमध्ये मोजल्या जाणार नाहीत.

मी माझ्या स्केल टियरवरील अतिरिक्त वाहतूक आपोआप फास्ट मोडकडे पाठवू शकतो का?

नाही. स्केल टियरकडे पाठवलेली वाहतूक आपोआप फास्ट मोडकडे वळणार नाही.

फास्ट मोडचे बिल कसे आकारले जाते?

फास्ट मोडद्वारे पुरवलेल्या टोकनचे बिल प्रत्येक टोकननुसार आकारले जाईल आणि त्याची किंमत मानक प्रक्रियेच्या दरांपेक्षा अधिक असेल.

माझी वार्षिक वचनबद्धता एखाद्या विशिष्ट प्रक्रिया मोडशी जोडलेली आहे का?

नाही. सर्व प्रक्रिया मोड तुमच्या वार्षिक एंटरप्राइझ खर्चाच्या वचनबद्धतेमध्ये मोजले जातात.

कॅश केलेल्या इनपुट टोकनवर मला अजूनही सवलत मिळेल का?

होय! कॅश केलेल्या इनपुटना मानक प्रक्रियेप्रमाणेच 50-75% सवलत मिळते.

फास्ट मोडचा माझा वापर आणि खर्च मी कसा पाहू?

फास्ट मोडद्वारे प्रक्रिया केलेली टोकन पाहण्यासाठी वापर माहिती फलकावर जा, चॅट पूर्णता किंवा प्रतिसाद निवडा आणि सेवा टियरनुसार गटबद्ध करा. फास्ट मोड पूर्वी प्राधान्य प्रक्रिया म्हणून ओळखला जात होता.

फास्ट मोडचा खर्च पाहण्यासाठी वापर माहिती फलकावर जा आणि पंक्ती आयटमनुसार गटबद्ध करा हा पर्याय निवडा.

वापर माहिती फलकावर service_tier म्हणून priority किंवा fast वापरणाऱ्या विनंत्या यापुढेही priority म्हणून दिसतील. भविष्यातील मॉडेल्ससाठी हे अद्ययावत केले जाईल.

मॉडेल्स

दीर्घ संदर्भ, सूक्ष्म-समायोजित मॉडेल्स, अंतःस्थापने इत्यादींसाठी फास्ट मोड उपलब्ध आहे का?

सध्या नाही. आमच्या नवीनतम मॉडेल्सव्यतिरिक्त इतर उत्पादनांवर फास्ट मोड द्यायचा का, याचे आम्ही भविष्यात मूल्यमापन करू.

इतर माध्यम प्रकार फास्ट मोडसोबत कसे काम करतात?

मानक प्रक्रियेमध्ये उपलब्ध असलेल्या सर्व बहुमाध्यम क्षमतांना फास्ट मोड समर्थन देतो. विशेषतः, प्राधान्य प्रक्रियेसाठी प्रतिमा इनपुट म्हणून वापरता येतात आणि त्यांवरही तितक्याच कमी विलंबाने प्रक्रिया होते.

भविष्यातील मॉडेल्सना समर्थन दिले जाईल का?

नवीन GPT मॉडेल्सवर फास्ट मोड देण्याची आमची योजना आहे, पण प्रत्येक मॉडेलला समर्थन मिळेल याची आम्ही हमी देत नाही.

रेट मर्यादा

रेट मर्यादा काय आहेत?

रेट मर्यादांसाठी प्राधान्य प्रक्रियेचा वापर मानक API वाहतुकीप्रमाणेच मानला जातो.

वाहतूक वाढीच्या रेट मर्यादा काय आहेत?

सर्व ग्राहकांना सातत्याने उच्च कार्यप्रदर्शन मिळावे आणि मागणीनुसार लवचीक मूल्यनिर्धारणही उपलब्ध राहावे, यासाठी फास्ट मोडमध्ये वाहतूक वाढीच्या रेट मर्यादा आहेत. (अ) फास्ट मोडचे कार्यप्रदर्शन खालावले आणि (ब) ग्राहकाची वाहतूक खूप वेगाने वाढत असेल, तर क्वचित प्रसंगी काही विनंत्या त्याऐवजी मानक प्रक्रियेकडे पाठवल्या जाऊ शकतात.

फास्ट मोडची सध्याची वाहतूक वाढीची रेट मर्यादा आमच्या मुख्य दस्तऐवजात येथे नमूद केली आहे.

वाहतूक वाढीच्या रेट मर्यादेत राहण्यासाठी सर्वोत्तम पद्धती

मॉडेल बदलताना वाहतूक हळूहळू वाढवा. उदाहरणार्थ, तुमचा अनुप्रयोग मागील स्नॅपशॉटवरून नवीन स्नॅपशॉटकडे जात असेल, तर सर्व वाहतूक एकाच वेळी न वळवता वैशिष्ट्य ध्वज वापरून काही तासांत टप्प्याटप्प्याने वळवा.

फास्ट मोडवर मोठ्या प्रमाणातील डेटा प्रक्रिया किंवा असमकालिक कामे चालवणे टाळा. या कामांमुळे वाहतूक खूप वेगाने वाढू शकते आणि त्यांना अनेकदा फास्ट मोडच्या सुधारित कार्यप्रदर्शनाची गरज नसते.

तुम्हाला वाहतूक वाढीच्या रेट मर्यादा वारंवार लागू होत असल्यास, त्याऐवजी स्केल टियर कोटा खरेदी करण्याचा विचार करा.

वाहतूक वाढीच्या रेट मर्यादा माझ्या सर्व प्रकल्पांमध्ये किंवा संस्थांमध्ये सामायिक असतात का?

होय, तुमची सर्व वाहतूक एकाच वाहतूक वाढीच्या रेट मर्यादेत मोजली जाते.

धोरणे

फास्ट मोडने विलंबाचे लक्ष्य पूर्ण केले नाही तर काय होते?

कोणतेही प्रश्न किंवा चिंता असल्यास, कृपया तुमच्या AD शी संपर्क साधा. फास्ट मोडच्या SLA ना स्केल टियरच्या SLA प्रमाणेच मानले जाईल. एखाद्या कालावधीत एंटरप्राइझ करार असलेल्या ग्राहकांसाठी ते SLA पूर्ण न झाल्यास सेवा क्रेडिट्स दिले जातील.

फास्ट मोड डेटा रेसिडेन्सीशी सुसंगत आहे का?

होय.

फास्ट मोड ZDR आणि BAA शी सुसंगत आहे का?

होय.