Batch API કેવી રીતે કામ કરે છે?
અહીં દસ્તાવેજીકૃત મુજબ, Batch API એન્ડપોઇન્ટ વપરાશકર્તાઓને અસિંક્રોનસ બેચ પ્રોસેસિંગ માટે વિનંતીઓ સબમિટ કરવાની મંજૂરી આપે છે. અમે આ વિનંતીઓ 24 કલાકની અંદર પ્રોસેસ કરીશું. દરેક વિનંતીની વિગતો અગાઉથી અપલોડ કરેલી ફાઇલમાંથી વાંચવામાં આવશે અને પ્રતિસાદો આઉટપુટ ફાઇલમાં લખવામાં આવશે. તમે સ્થિતિ અપડેટ્સ અને પરિણામો માટે બેચ ઑબ્જેક્ટની ક્વેરી કરી શકો છો.
Batch API માટે કિંમત શું છે?
દરેક મોડલ સિંક્રોનસ APIની તુલનામાં 50% ખર્ચ ડિસ્કાઉન્ટ પર ઉપલબ્ધ કરાશે. અમારા API ભાવ અંગે વધુ માહિતી અહીં છે.
હું કયા મોડલ્સને બેચ કરી શકું?
Batch API અમારા મોટાભાગના મોડલ્સમાં વ્યાપકપણે ઉપલબ્ધ છે, પરંતુ બધામાં નહીં. તમે ઉપયોગ કરી રહ્યા છો તે મોડલ Batch APIને સપોર્ટ કરે છે તેની ખાતરી કરવા માટે કૃપા કરીને મોડલ રેફરન્સ દસ્તાવેજો જુઓ.
જો API વચન આપેલા સમયની અંદર મારી વિનંતી પૂર્ણ ન કરે તો શું થાય છે?
અમારો હેતુ તમામ વિનંતીઓ 24 કલાકની અંદર પૂર્ણ કરવાનો છે. જો બેચ સમાપ્ત થાય (એટલે કે તે SLA સમય વિન્ડોની અંદર પૂર્ણ થઈ શક્યું ન હોય), તો બાકીનું કામ રદ કરવામાં આવે છે અને પહેલેથી પૂર્ણ થયેલું કોઈપણ કામ પરત કરવામાં આવે છે. ડેવલપર્સ પાસેથી પૂર્ણ થયેલા કોઈપણ કામ માટે શુલ્ક લેવામાં આવશે.
હું કેટલી વિનંતીઓ બેચ કરી શકું તેની મર્યાદા શું છે?
Embeddings APIમાં એક સમયે 10 લાખ કતારમાં મૂકેલી વિનંતીઓની મર્યાદા છે.
અન્ય તમામ API માટે, તમે બેચ કરી શકો તેવી વિનંતીઓની સંખ્યાની કોઈ મર્યાદા નથી; જોકે, દરેક ઉપયોગ સ્તર સાથે સંબંધિત બેચ દર મર્યાદા હોય છે. તમારી બેચ દર મર્યાદામાં તમે એક સમયે કતારમાં મૂકેલા ઇનપુટ ટોકનની મહત્તમ સંખ્યા શામેલ છે. તમે તમારી દર મર્યાદાઓ અહીં જોઈ શકો છો.
Batch API તરફથી જવાબ મળવામાં લાગતો સમય હું બદલી શકું?
અમારી હાલની નિર્દિષ્ટ સમય વિન્ડો 24 કલાકની છે. અમે હાલમાં આ સમયગાળો બદલી શકતા નથી.
શું Batch API પર સ્ટ્રીમિંગ સપોર્ટેડ છે?
ના, Batch API પર સ્ટ્રીમિંગ સપોર્ટેડ નથી. બેચ વિનંતીઓ સ્ટ્રીમ કરેલા પ્રતિસાદોને બદલે આઉટપુટ ફાઇલો દ્વારા પરિણામો પરત કરે છે.
શું Batch API પર છબીઓ સપોર્ટેડ છે?
હા, Batch API પર છબીઓ સપોર્ટેડ છે.
મને “The URL provided for this request does not prefix-match the batch endpoint” એવો ભૂલ સંદેશ મળ્યો. મારે શું કરવું જોઈએ?
જો તમને આ ભૂલ મળે, તો તેનો અર્થ એ છે કે તમારું URL Batch API એન્ડપોઇન્ટ માટે ખોટી રીતે ફોર્મેટ કરેલું છે. તમે એન્ડપોઇન્ટને યોગ્ય રીતે કૉલ કરી રહ્યા છો તેની ખાતરી કરવા કૃપા કરીને અહીં અમારા દસ્તાવેજીકરણનો સંદર્ભ લો.
શું Batch APIનો ઉપયોગ મારી અન્ય દર મર્યાદાઓમાં ગણાય છે?
Batch APIની દર મર્યાદાઓ હાલની મર્યાદાઓથી સંપૂર્ણપણે અલગ છે.
જો બેચ રદ કરવામાં આવે તો શું થાય છે?
જો બેચ મેન્યુઅલી રદ કરવામાં આવે, તો જે પરિણામો પહેલેથી પૂર્ણ થઈ ગયા હોય તે પરત કરવામાં આવે છે. ડેવલપર્સ પાસેથી પૂર્ણ થયેલા કોઈપણ કામ માટે શુલ્ક લેવામાં આવશે.
જો બેચ સમાપ્ત થાય તો શું થાય છે?
જો બેચ સમાપ્ત થાય (એટલે કે તે SLA સમય વિન્ડોની અંદર પૂર્ણ થઈ શક્યું ન હોય), તો બાકીનું કામ રદ કરવામાં આવે છે અને પહેલેથી પૂર્ણ થયેલું કોઈપણ કામ પરત કરવામાં આવે છે. ડેવલપર્સ પાસેથી પૂર્ણ થયેલા કોઈપણ કામ માટે શુલ્ક લેવામાં આવશે.
બેચ જોબ્સ પર કઈ સ્થિતિઓની અપેક્ષા રાખી શકું?
બેચ જોબમાં નીચેની કોઈપણ સ્થિતિ હોઈ શકે છે: માન્ય કરી રહ્યું છે, નિષ્ફળ, ચાલુ છે, અંતિમ સ્વરૂપ આપી રહ્યું છે, પૂર્ણ, સમાપ્ત, રદ કરી રહ્યું છે અને રદ કરેલું. જો તમે API સ્થિતિ મૂલ્યો પ્રોગ્રામેટિક રીતે તપાસી રહ્યા હો, તો નાના અક્ષરના લિટરલ્સનો ઉપયોગ કરો: validating, failed, in_progress, finalizing, completed, expired, cancelling અને cancelled.
માન્ય કરી રહ્યું છે: બેચ શરૂ થઈ શકે તે પહેલાં અપલોડ કરેલી ફાઇલનું વેલિડેશન ચાલુ છે.
નિષ્ફળ: ફાઇલ વેલિડેશન પ્રક્રિયામાં નિષ્ફળ ગઈ છે.
ચાલુ છે: ફાઇલનું વેલિડેશન સફળતાપૂર્વક થયું છે અને બેચ પ્રક્રિયા ચાલુ છે.
અંતિમ સ્વરૂપ આપી રહ્યું છે: બેચ જોબ પૂર્ણ થઈ ગઈ છે અને પરિણામો તૈયાર થઈ રહ્યા છે.
પૂર્ણ: બેચ જોબ પૂર્ણ છે અને પરિણામો તૈયાર છે.
સમાપ્ત: બેચ SLA સમય વિન્ડોની અંદર પૂર્ણ થઈ શક્યું નથી.
રદ કરી રહ્યું છે: બેચ જોબને રદ કરવાની પ્રક્રિયા શરૂ કરવામાં આવી છે.
રદ કરેલું: બેચ જોબ રદ કરવામાં આવી હતી.
હું પહેલેથી બનાવેલી બેચ જોબ્સ કેવી રીતે તપાસી શકું?
તમે અહીં નિર્દિષ્ટ API કૉલનો ઉપયોગ કરીને તમારી તમામ બેચ જોબ્સની યાદી મેળવી શકો છો.
શું આ એન્ડપોઇન્ટ પર ઝીરો ડેટા રિટેન્શન સપોર્ટેડ છે?
જો તમારી સંસ્થા માટે ઝીરો ડેટા રિટેન્શન સક્ષમ હોય, તો કૃપા કરીને નોંધો કે ઝીરો ડેટા રિટેન્શન Batch API પર લાગુ પડતું નથી. ZDR સંસ્થાઓ બેચ જોબ્સ બનાવી શકે છે, પરંતુ બેચ ઇનપુટ ફાઇલો, આઉટપુટ્સ, ભૂલો અને મધ્યવર્તી આર્ટિફેક્ટ્સ રૂપરેખાંકિત Batch, File Service અને Sediment રિટેન્શન નીતિઓ અનુસાર રાખવામાં આવે છે.
