Batch API कसे काम करते?
येथे दस्तऐवजीकरण केल्याप्रमाणे, Batch API एंडपॉइंट वापरकर्त्यांना असिंक्रोनस बॅच प्रक्रियेसाठी विनंत्या सबमिट करू देते. आम्ही या विनंत्यांवर 24 तासांच्या आत प्रक्रिया करू. प्रत्येक विनंतीचे तपशील आधी अपलोड केलेल्या फाइलमधून वाचले जातील आणि प्रतिसाद आउटपुट फाइलमध्ये लिहिले जातील. स्थिती अपडेट्स आणि परिणामांसाठी तुम्ही बॅच ऑब्जेक्टची क्वेरी करू शकता.
Batch API साठी किंमत काय आहे?
प्रत्येक मॉडेल सिंक्रोनस APIs च्या तुलनेत 50% खर्च सवलतीवर दिले जाईल. आमच्या API किंमतीबद्दल अधिक माहिती येथे आहे.
मी कोणते मॉडेल बॅच करू शकतो?
Batch API आमच्या बहुतेक मॉडेल्सवर व्यापकपणे उपलब्ध आहे, पण सर्वांवर नाही. तुम्ही वापरत असलेले मॉडेल Batch API ला समर्थन देते याची खात्री करण्यासाठी कृपया मॉडेल संदर्भ दस्तऐवज पहा.
API माझी विनंती वचन दिलेल्या वेळेत पूर्ण करत नसल्यास काय होते?
आमचे उद्दिष्ट सर्व विनंत्या 24 तासांच्या आत पूर्ण करण्याचे आहे. बॅच कालबाह्य झाल्यास (म्हणजेच SLA वेळेच्या चौकटीत ती पूर्ण होऊ शकली नाही), उरलेले काम रद्द केले जाते आणि आधीच पूर्ण झालेले कोणतेही काम परत केले जाते. पूर्ण झालेल्या कोणत्याही कामासाठी विकसकांकडून शुल्क आकारले जाईल.
मी किती विनंत्या बॅच करू शकतो याची मर्यादा काय आहे?
Embeddings APIs साठी एका वेळी 10 लाख रांगेत असलेल्या विनंत्यांची मर्यादा आहे.
इतर सर्व APIs साठी, तुम्ही बॅच करू शकता अशा विनंत्यांच्या संख्येवर मर्यादा नाही; तथापि, प्रत्येक वापर स्तराशी संबंधित बॅच रेट मर्यादा असते. तुमच्या बॅच रेट मर्यादेत एका वेळी रांगेत असलेल्या इनपुट टोकनची कमाल संख्या समाविष्ट असते. तुम्ही तुमच्या रेट मर्यादा येथे पाहू शकता.
Batch API कडून प्रतिसाद मिळण्यास लागणारा वेळ मी बदलू शकतो का?
आमची सध्या निर्दिष्ट वेळेची चौकट 24 तासांची आहे. आम्ही सध्या हा कालावधी बदलू शकत नाही.
Batch API वर स्ट्रीमिंग समर्थित आहे का?
नाही, Batch API वर स्ट्रीमिंग समर्थित नाही. बॅच विनंत्या स्ट्रीम केलेल्या प्रतिसादांऐवजी आउटपुट फाइल्सद्वारे परिणाम परत करतात.
Batch API वर इमेजेस समर्थित आहेत का?
होय, Batch API वर इमेजेस समर्थित आहेत.
मला “The URL provided for this request does not prefix-match the batch endpoint” असा एरर मेसेज आला. मी काय करावे?
तुम्हाला हा एरर मिळाल्यास, याचा अर्थ तुमची URL Batch API एंडपॉइंटसाठी चुकीच्या फॉरमॅटमध्ये आहे. तुम्ही एंडपॉइंटला योग्यरीत्या कॉल करत आहात याची खात्री करण्यासाठी कृपया आमचे दस्तऐवजीकरण येथे पहा.
Batch API चा वापर माझ्या इतर रेट मर्यादांमध्ये मोजला जातो का?
Batch API रेट मर्यादा विद्यमान मर्यादांपासून पूर्णपणे वेगळ्या आहेत.
बॅच रद्द केल्यास काय होते?
बॅच मॅन्युअली रद्द केल्यास आधीच पूर्ण झालेले जे काही परिणाम असतील ते परत केले जातात. पूर्ण झालेल्या कोणत्याही कामासाठी विकसकांकडून शुल्क आकारले जाईल.
बॅच कालबाह्य झाल्यास काय होते?
बॅच कालबाह्य झाल्यास (म्हणजेच SLA वेळेच्या चौकटीत ती पूर्ण होऊ शकली नाही), उरलेले काम रद्द केले जाते आणि आधीच पूर्ण झालेले कोणतेही काम परत केले जाते. पूर्ण झालेल्या कोणत्याही कामासाठी विकसकांकडून शुल्क आकारले जाईल.
बॅच जॉब्सवर मला कोणत्या स्थिती अपेक्षित असू शकतात?
बॅच जॉबची स्थिती यापैकी कोणतीही असू शकते: पडताळणी सुरू आहे, अयशस्वी, प्रगतीपथावर, अंतिम रूप देत आहे, पूर्ण, कालबाह्य, रद्द करत आहे आणि रद्द. तुम्ही API स्थिती मूल्ये प्रोग्रामद्वारे तपासत असल्यास, लोअरकेस लिटरल्स वापरा: validating, failed, in_progress, finalizing, completed, expired, cancelling आणि cancelled.
पडताळणी सुरू आहे: बॅच सुरू होण्यापूर्वी अपलोड केलेल्या फाइलची पडताळणी सुरू आहे.
अयशस्वी: फाइल पडताळणी प्रक्रियेत अयशस्वी झाली आहे.
प्रगतीपथावर: फाइल यशस्वीरीत्या पडताळली गेली आहे आणि बॅच प्रक्रिया सुरू आहे.
अंतिम रूप देत आहे: बॅच जॉब पूर्ण झाला आहे आणि परिणाम तयार केले जात आहेत.
पूर्ण: बॅच जॉब पूर्ण झाला आहे आणि परिणाम तयार आहेत.
कालबाह्य: SLA वेळेच्या चौकटीत बॅच पूर्ण होऊ शकली नाही.
रद्द करत आहे: बॅच जॉब रद्द करण्याची प्रक्रिया सुरू करण्यात आली आहे.
रद्द: बॅच जॉब रद्द केला गेला.
मी आधीच तयार केलेले बॅच जॉब्स कसे तपासू शकतो?
येथे नमूद केलेला API कॉल वापरून तुम्ही तुमच्या सर्व बॅच जॉब्सची सूची मिळवू शकता.
या एंडपॉइंटवर झीरो डेटा रिटेन्शन समर्थित आहे का?
तुमच्या संस्थेसाठी झीरो डेटा रिटेन्शन सक्षम असल्यास, कृपया लक्षात घ्या की झीरो डेटा रिटेन्शन Batch API ला लागू होत नाही. ZDR संस्था बॅच जॉब्स तयार करू शकतात, पण बॅच इनपुट फाइल्स, आउटपुट्स, एरर्स आणि मध्यवर्ती आर्टिफॅक्ट्स कॉन्फिगर केलेल्या Batch, File Service आणि Sediment रिटेन्शन धोरणांनुसार राखून ठेवले जातात.