અમે હવે એવા Enterprise API ગ્રાહકો માટે પ્રાયોરિટી પ્રોસેસિંગ પ્રદાન કરીએ છીએ, જેઓ ચોક્કસ મોડલ પર વધુ ઝડપી અને વધુ સુસંગત પ્રદર્શન મેળવવા માંગે છે. તે કેવી રીતે કાર્ય કરે છે, કિંમત, મોડલ ઉપલબ્ધતા, દર મર્યાદાઓ, વિશ્વસનીયતા, નીતિઓ અને પાત્રતા વિશેના સામાન્ય પ્રશ્નોના જવાબ નીચે આપેલા છે.
વધુ જાણો અહીં.
ઍક્સેસ
પ્રાયોરિટી પ્રોસેસિંગને કોણ ઍક્સેસ કરી શકે છે?
પ્રાયોરિટી પ્રોસેસિંગ હાલમાં Enterprise ગ્રાહકો માટે ઉપલબ્ધ છે.
શું પ્રાયોરિટી પ્રોસેસિંગ બધા પ્રદેશોમાં ઉપલબ્ધ છે?
પ્રાયોરિટી પ્રોસેસિંગની ઉપલબ્ધતા દરેક અધિકારક્ષેત્રમાં લાગુ કાયદા અને નિયમો પર આધારિત છે. તમારા પ્રદેશમાં ઉપલબ્ધતા વિશે પ્રશ્નો હોય તો કૃપા કરીને તમારા એકાઉન્ટ ડિરેક્ટરનો સંપર્ક કરો.
કિંમત
હું પ્રાયોરિટી પ્રોસેસિંગનો ઉપયોગ કેવી રીતે શરૂ કરું?
ગ્રાહકો હાલના service_tier પરિમાણનો ઉપયોગ કરીને, service_tier="priority" વિકલ્પ સાથે, પ્રતિ વિનંતી ધોરણે ટ્રાફિકને પ્રાયોરિટી પ્રોસેસિંગ તરફ દોરી શકે છે.
આ વ્યાપકતાનું સ્તર સાથે કેવી રીતે ક્રિયા કરે છે?
વ્યાપકતાનું સ્તર પ્રાયોરિટી પ્રોસેસિંગથી અલગ રહેશે. પ્રાયોરિટી પ્રોસેસિંગને મોકલેલી વિનંતીઓનું બિલિંગ અલગથી થશે અને તે તમારા ખરીદેલા વ્યાપકતાનું સ્તર TPM બંડલ્સમાં ગણાશે નહીં.
શું હું મારા વ્યાપકતાનું સ્તર ઓવરફ્લો ટ્રાફિકને આપમેળે પ્રાયોરિટી પ્રોસેસિંગમાં મોકલી શકું?
ના. વ્યાપકતાનું સ્તરને મોકલાયેલો ટ્રાફિક આપમેળે પ્રાયોરિટી પ્રોસેસિંગમાં ઓવરફ્લો થશે નહીં.
પ્રાયોરિટી પ્રોસેસિંગનું બિલિંગ કેવી રીતે થાય છે?
પ્રાયોરિટી પ્રોસેસિંગ દ્વારા સેવા આપવામાં આવેલા ટોકનનું બિલિંગ પ્રતિ-ટોકન ધોરણે થશે, જેની કિંમત સ્ટાન્ડર્ડ પ્રોસેસિંગ દરોની સરખામણીએ પ્રીમિયમ પર રાખવામાં આવશે.
શું મારી વાર્ષિક પ્રતિબદ્ધતા કોઈ ચોક્કસ પ્રોસેસિંગ મોડ સાથે જોડાયેલી છે?
ના. બધા પ્રોસેસિંગ મોડ તમારી વાર્ષિક Enterprise ખર્ચ પ્રતિબદ્ધતામાં ગણાય છે.
શું મને કેશ કરેલા ઇનપુટ ટોકન પર હજુ પણ ડિસ્કાઉન્ટ મળે છે?
હા! કેશ કરેલા ઇનપુટને સ્ટાન્ડર્ડ પ્રોસેસિંગમાં મળતા તે જ 50-75% ડિસ્કાઉન્ટ મળે છે.
હું મારા પ્રાયોરિટી પ્રોસેસિંગના ઉપયોગ અને ખર્ચને કેવી રીતે જોઈ શકું?
પ્રાયોરિટી પ્રોસેસિંગ દ્વારા પ્રોસેસ કરેલા ટોકન જોવા માટે, ઉપયોગ ડેશબોર્ડ પર જાઓ, ચેટ પૂર્ણતાઓ અથવા પ્રતિસાદો પસંદ કરો અને સેવાનું સ્તર મુજબ જૂથબદ્ધ કરો. પ્રાયોરિટી પ્રોસેસિંગનો ખર્ચ જોવા માટે, ઉપયોગ ડેશબોર્ડ પર જાઓ અને લાઇન આઇટમ મુજબ જૂથબદ્ધ કરો પસંદ કરો.
મોડલ
શું પ્રાયોરિટી પ્રોસેસિંગ લાંબા સંદર્ભ, ફાઇન-ટ્યુન કરેલા મોડલ, એમ્બેડિંગ્સ વગેરે માટે ઉપલબ્ધ છે?
હાલમાં નથી. અમારા નવીનતમ મોડલ સિવાય વધારાના ઉત્પાદનો પર પ્રાયોરિટી પ્રોસેસિંગ આપવું કે નહીં તેનું અમે ભવિષ્યમાં મૂલ્યાંકન કરીશું.
પ્રાયોરિટી પ્રોસેસિંગ સાથે અન્ય મોડાલિટીઓ કેવી રીતે કાર્ય કરે છે?
પ્રાયોરિટી પ્રોસેસિંગ સ્ટાન્ડર્ડ પર ઉપલબ્ધ સમાન મલ્ટીમોડલ ક્ષમતાઓને સપોર્ટ કરે છે. ખાસ કરીને, છબીઓનો ઉપયોગ પ્રાયોરિટી પ્રોસેસિંગ માટે ઇનપુટ તરીકે કરી શકાય છે અને તે જ ઝડપી લેટન્સી સાથે પ્રોસેસ થાય છે.
શું ભવિષ્યના મોડલ સપોર્ટેડ હશે?
અમે નવા GPT મોડલ પર પ્રાયોરિટી પ્રોસેસિંગ આપવાની યોજના ધરાવીએ છીએ, પરંતુ દરેક મોડલ સપોર્ટેડ હશે તેની અમે ખાતરી આપતા નથી.
દર મર્યાદાઓ
દર મર્યાદાઓ શું છે?
દર મર્યાદાઓ માટે પ્રાયોરિટી પ્રોસેસિંગના વપરાશને સ્ટાન્ડર્ડ API ટ્રાફિક જેવું જ ગણવામાં આવે છે.
રેમ્પ દર મર્યાદાઓ શું છે?
પ્રાયોરિટી પ્રોસેસિંગમાં રેમ્પ દર મર્યાદાઓ હોય છે, જેથી બધા ગ્રાહકોને સતત ઊંચું પ્રદર્શન મળે અને સાથે લવચીક, માંગ મુજબની કિંમત પણ મળે. જો (a) પ્રાયોરિટી પ્રોસેસિંગનું પ્રદર્શન ઘટે અને (b) ગ્રાહકનો ટ્રાફિક બહુ ઝડપથી વધી રહ્યો હોય, તો દુર્લભ કિસ્સાઓમાં કેટલીક પ્રાયોરિટી વિનંતીઓને બદલે સ્ટાન્ડર્ડ પ્રોસેસિંગમાં ડાઉનગ્રેડ કરવામાં આવી શકે છે.
હાલની પ્રાયોરિટી પ્રોસેસિંગ રેમ્પ દર મર્યાદા અમારા મુખ્ય દસ્તાવેજીકરણમાં અહીં વ્યાખ્યાયિત છે.
તમારી રેમ્પ દર મર્યાદામાં રહેવા માટેની શ્રેષ્ઠ પદ્ધતિઓ
મોડલ બદલતી વખતે ટ્રાફિક ધીમે ધીમે વધારો. ઉદાહરણ તરીકે, જો તમારી એપ્લિકેશન અગાઉના સ્નેપશોટથી નવા સ્નેપશોટ પર જઈ રહી હોય, તો ટ્રાફિકને એકસાથે બદલે થોડા કલાકોના ગાળામાં ખસેડવા માટે ફીચર ફ્લેગનો ઉપયોગ કરો.
પ્રાયોરિટી પ્રોસેસિંગ પર મોટા ડેટા પ્રોસેસિંગ અથવા અસિંક્રોનસ જોબ ચલાવવાનું ટાળો. આ જોબ ટ્રાફિકને ખૂબ ઝડપથી વધારી શકે છે, અને ઘણીવાર તેમને પ્રાયોરિટી પ્રોસેસિંગના સુધારેલા પ્રદર્શનની જરૂર હોતી નથી.
જો તમને નિયમિત રીતે રેમ્પ દર મર્યાદાઓનો સામનો કરવો પડે છે, તો તેના બદલે વ્યાપકતાનું સ્તર ક્વોટા ખરીદવાનું વિચારો.
શું રેમ્પ દર મર્યાદાઓ મારા પ્રોજેક્ટ્સ અથવા સંસ્થાઓમાં વહેંચાયેલી છે?
હા, તમારો બધો ટ્રાફિક એ જ રેમ્પ દર મર્યાદામાં યોગદાન આપે છે.
નીતિઓ
જો પ્રાયોરિટી પ્રોસેસિંગ લેટન્સી લક્ષ્ય પૂર્ણ ન કરે તો શું થાય?
કોઈપણ પ્રશ્નો અથવા ચિંતાઓ માટે કૃપા કરીને તમારા ADનો સંપર્ક કરો. પ્રાયોરિટી પ્રોસેસિંગ SLA ને વ્યાપકતાનું સ્તર SLA જેવી જ રીતે ગણવામાં આવશે; જો કોઈ નિર્ધારિત સમય વિન્ડો દરમિયાન Enterprise કરાર ધરાવતા ગ્રાહકો માટે અમે તે SLA પૂર્ણ કરવામાં નિષ્ફળ જઈએ, તો સેવા ક્રેડિટ આપવામાં આવશે.
શું પ્રાયોરિટી પ્રોસેસિંગ ડેટા રેસિડન્સી સાથે સુસંગત છે?
હા.
શું પ્રાયોરિટી પ્રોસેસિંગ ZDR અને BAA સાથે સુસંગત છે?
હા.
