તે કેવી રીતે કાર્ય કરે છે

ગ્રાહકો હાલના service_tier પેરામીટરનો ઉપયોગ કરીને દરેક વિનંતી માટે ટ્રાફિકને ઝડપી મોડ તરફ મોકલી શકે છે. આ માટે service_tier = "fast" વિકલ્પ વાપરો.

ઝડપી મોડ દ્વારા પ્રોસેસ કરાયેલા ટોકનનું બિલ પ્રતિ ટોકન ધોરણે બનશે અને તેની કિંમત માનક પ્રોસેસિંગના દર કરતાં વધુ હશે.

વિનંતીના સ્તરે ગોઠવવા ઉપરાંત, તમે પ્રોજેક્ટ સેટિંગ્સ > ડિફૉલ્ટ સેવાનું સ્તર: ઝડપી દ્વારા પ્રોજેક્ટ માટે ઝડપી મોડને ડિફૉલ્ટ પણ બનાવી શકો છો. તમે હજી પણ દરેક વિનંતી માટે આ સેટિંગને ઓવરરાઇડ કરી શકો છો. તમારા પ્રોજેક્ટના સેટિંગ્સમાં ઝડપી પસંદ કરવું એ પ્રાથમિકતા પસંદ કરવા સમાન છે.

આ વ્યાપકતાનું સ્તર સાથે કેવી રીતે કાર્ય કરે છે?

વ્યાપકતાનું સ્તર ઝડપી મોડથી અલગ રહેશે. ઝડપી મોડને મોકલેલી વિનંતીઓનું બિલ અલગથી બનશે અને તે તમે ખરીદેલા વ્યાપકતાનું સ્તરના TPM બંડલમાં ગણાશે નહીં.

શું હું વ્યાપકતાનું સ્તરનો વધારાનો ટ્રાફિક આપમેળે ઝડપી મોડને મોકલી શકું છું?

ના. વ્યાપકતાનું સ્તરને મોકલેલો ટ્રાફિક આપમેળે ઝડપી મોડમાં જશે નહીં.

ઝડપી મોડનું બિલ કેવી રીતે બને છે?

ઝડપી મોડ દ્વારા પ્રોસેસ કરાયેલા ટોકનનું બિલ પ્રતિ ટોકન ધોરણે બનશે અને તેની કિંમત માનક પ્રોસેસિંગના દર કરતાં વધુ હશે.

શું મારી વાર્ષિક પ્રતિબદ્ધતા કોઈ ચોક્કસ પ્રોસેસિંગ મોડ સાથે જોડાયેલી છે?

ના. તમામ પ્રોસેસિંગ મોડનો ખર્ચ તમારી વાર્ષિક એન્ટરપ્રાઇઝ ખર્ચ પ્રતિબદ્ધતામાં ગણાય છે.

શું મને કૅશ કરેલા ઇનપુટ ટોકન પર હજુ પણ છૂટ મળે છે?

હા! કૅશ કરેલા ઇનપુટને માનક પ્રોસેસિંગની જેમ જ 50-75% છૂટ મળે છે.

હું ઝડપી મોડનો ઉપયોગ અને ખર્ચ કેવી રીતે જોઈ શકું?

ઝડપી મોડ (અગાઉ પ્રાથમિકતા પ્રોસેસિંગ) દ્વારા પ્રોસેસ કરાયેલા ટોકન જોવા માટે, ઉપયોગ ડૅશબોર્ડ પર જાઓ, ચૅટ પૂર્ણતાઓ અથવા પ્રતિસાદ પસંદ કરો અને સેવાનું સ્તર મુજબ જૂથબદ્ધ કરો.

ઝડપી મોડનો ખર્ચ જોવા માટે, ઉપયોગ ડૅશબોર્ડ પર જાઓ અને પંક્તિની આઇટમ મુજબ જૂથબદ્ધ કરો પસંદ કરો.

ઉપયોગ ડૅશબોર્ડ પર service_tier તરીકે priority અથવા fast વાપરતી વિનંતીઓ priority તરીકે જ દેખાતી રહેશે. ભવિષ્યના મોડલ માટે આને અપડેટ કરવામાં આવશે.

મોડલ

શું ઝડપી મોડ લાંબા સંદર્ભ, સુસંગત બનાવેલા મોડલ, એમ્બેડિંગ વગેરે માટે ઉપલબ્ધ છે?

હાલમાં નહીં. ભવિષ્યમાં અમે મૂલ્યાંકન કરીશું કે અમારા નવીનતમ મોડલ ઉપરાંત અન્ય ઉત્પાદનો પર પણ ઝડપી મોડ ઑફર કરવો કે નહીં.

અન્ય પ્રકારનાં માધ્યમો ઝડપી મોડ સાથે કેવી રીતે કાર્ય કરે છે?

ઝડપી મોડમાં માનક મોડ જેવી જ બહુવિધ માધ્યમોની ક્ષમતાઓ ઉપલબ્ધ છે. ખાસ કરીને, પ્રાથમિકતા પ્રોસેસિંગ માટે છબીઓનો ઇનપુટ તરીકે ઉપયોગ કરી શકાય છે અને તે પણ એટલી જ ઓછી વિલંબતા સાથે પ્રોસેસ થાય છે.

શું ભવિષ્યના મોડલ માટે સમર્થન મળશે?

અમે નવા GPT મોડલ પર ઝડપી મોડ ઑફર કરવાની યોજના ધરાવીએ છીએ, પરંતુ દરેક મોડલ માટે સમર્થન મળશે તેની ખાતરી આપતા નથી.

દર મર્યાદાઓ

દર મર્યાદાઓ શું છે?

દર મર્યાદાઓ માટે પ્રાથમિકતા પ્રોસેસિંગના વપરાશને માનક API ટ્રાફિકની જેમ જ ગણવામાં આવે છે.

ટ્રાફિક વધારવાના દરની મર્યાદાઓ શું છે?

બધા ગ્રાહકો માટે સતત ઉચ્ચ કાર્યક્ષમતા સુનિશ્ચિત કરવા અને સાથે માંગ અનુસાર લવચીક કિંમત આપવા ઝડપી મોડમાં ટ્રાફિક વધારવાના દરની મર્યાદાઓ છે. જો (a) ઝડપી મોડની કાર્યક્ષમતા ઘટે અને (b) ગ્રાહકનો ટ્રાફિક ખૂબ ઝડપથી વધતો હોય, તો જૂજ કિસ્સામાં કેટલીક વિનંતીઓને તેના બદલે માનક પ્રોસેસિંગ પર ઉતારી શકાય છે.

ઝડપી મોડમાં ટ્રાફિક વધારવાના દરની વર્તમાન મર્યાદા અહીં અમારા મુખ્ય દસ્તાવેજોમાં દર્શાવેલી છે.

ટ્રાફિક વધારવાના દરની મર્યાદામાં રહેવા માટેની શ્રેષ્ઠ પદ્ધતિઓ

મોડલ બદલતી વખતે ટ્રાફિક ધીમે ધીમે વધારો. ઉદાહરણ તરીકે, જો તમારી ઍપ્લિકેશન અગાઉના સ્નૅપશૉટમાંથી નવા સ્નૅપશૉટ પર જઈ રહી હોય, તો બધો ટ્રાફિક એકસાથે ખસેડવાને બદલે સુવિધા ફ્લૅગનો ઉપયોગ કરીને થોડા કલાકોમાં તબક્કાવાર ખસેડો.

ઝડપી મોડમાં મોટા પાયે ડેટા પ્રોસેસિંગ અથવા અસિંક્રોનસ કાર્યો ચલાવવાનું ટાળો. આ કાર્યો ટ્રાફિકને ખૂબ ઝડપથી વધારી શકે છે અને ઘણી વાર તેને ઝડપી મોડની સુધારેલી કાર્યક્ષમતાની જરૂર હોતી નથી.

જો તમને વારંવાર ટ્રાફિક વધારવાના દરની મર્યાદા નડે, તો તેના બદલે વ્યાપકતાનું સ્તરનો ક્વોટા ખરીદવાનું વિચારો.

શું ટ્રાફિક વધારવાના દરની મર્યાદા મારા પ્રોજેક્ટ અથવા સંસ્થાઓમાં સહિયારી છે?

હા, તમારો બધો ટ્રાફિક એક જ ટ્રાફિક વધારવાના દરની મર્યાદામાં ગણાય છે.

નીતિઓ

જો ઝડપી મોડ વિલંબતાનો લક્ષ્યાંક પૂરો ન કરતો હોય, તો શું થાય?

કોઈ પ્રશ્ન અથવા ચિંતા હોય, તો કૃપા કરીને તમારા એકાઉન્ટ ડિરેક્ટરનો સંપર્ક કરો. ઝડપી મોડના SLAને વ્યાપકતાનું સ્તરના SLAની જેમ જ ગણવામાં આવશે. જો કોઈ સમયગાળા દરમિયાન એન્ટરપ્રાઇઝ કરાર ધરાવતા ગ્રાહકો માટે અમે આ SLA પૂરા કરવામાં નિષ્ફળ જઈએ, તો સેવા ક્રેડિટ્સ આપવામાં આવશે.

શું ઝડપી મોડ ડેટા રેસિડન્સી સાથે સુસંગત છે?

હા.

શું ઝડપી મોડ ZDR અને BAA સાથે સુસંગત છે?

હા.