Batch API কীভাবে কাজ করে?
Batch API এন্ডপয়েন্ট, এখানে নথিভুক্ত অনুযায়ী, ব্যবহারকারীদের অ্যাসিঙ্ক্রোনাস ব্যাচ প্রক্রিয়াকরণের জন্য অনুরোধ জমা দিতে দেয়. আমরা 24 ঘণ্টার মধ্যে এসব অনুরোধ প্রক্রিয়া করব. প্রতিটি অনুরোধের বিবরণ আগে আপলোড করা একটি ফাইল থেকে পড়া হবে, এবং প্রতিক্রিয়াগুলো একটি আউটপুট ফাইলে লেখা হবে. স্ট্যাটাস আপডেট ও ফলাফলের জন্য আপনি ব্যাচ অবজেক্ট কোয়েরি করতে পারেন.
Batch API-এর মূল্য কত?
প্রতিটি মডেল সিঙ্ক্রোনাস API-গুলোর তুলনায় 50% খরচ ছাড়ে দেওয়া হবে. আমাদের API মূল্য সম্পর্কে আরও তথ্য এখানে আছে.
কোন মডেলগুলো আমি ব্যাচ করতে পারি?
Batch API আমাদের বেশিরভাগ মডেলে ব্যাপকভাবে উপলভ্য, তবে সবগুলোতে নয়. আপনি যে মডেলটি ব্যবহার করছেন সেটি Batch API সমর্থন করে কি না নিশ্চিত করতে দয়া করে মডেল রেফারেন্স ডক্স দেখুন.
API প্রতিশ্রুত সময়ের মধ্যে আমার অনুরোধ সম্পন্ন না করলে কী হয়?
আমরা 24 ঘণ্টার মধ্যে সব অনুরোধ সম্পন্ন করার লক্ষ্য রাখি. কোনো ব্যাচের মেয়াদ শেষ হলে (অর্থাৎ SLA সময়সীমার মধ্যে এটি সম্পন্ন করা যায়নি), বাকি কাজ বাতিল করা হয় এবং ইতিমধ্যে সম্পন্ন হওয়া যেকোনো কাজ ফেরত দেওয়া হয়. সম্পন্ন হওয়া যেকোনো কাজের জন্য ডেভেলপারদের চার্জ করা হবে.
আমি কতগুলো অনুরোধ ব্যাচ করতে পারি তার সীমা কত?
Embeddings API-গুলোতে একসাথে সারিবদ্ধ 1 মিলিয়ন অনুরোধের সীমা আছে.
অন্য সব API-এর ক্ষেত্রে, আপনি কতগুলো অনুরোধ ব্যাচ করতে পারেন তার কোনো সীমা নেই; তবে প্রতিটি ব্যবহার স্তরের একটি সংশ্লিষ্ট ব্যাচ সীমা আছে. আপনার ব্যাচ সীমার মধ্যে একসাথে সারিবদ্ধ করা ইনপুট টোকেনের সর্বোচ্চ সংখ্যা অন্তর্ভুক্ত. আপনি আপনার সীমাগুলো এখানে খুঁজে পেতে পারেন.
Batch API থেকে উত্তর পেতে যে সময় লাগে তা কি আমি পরিবর্তন করতে পারি?
আমাদের বর্তমান নির্দিষ্ট সময়সীমা 24 ঘণ্টা. আমরা বর্তমানে এই সময়কাল পরিবর্তন করতে পারি না.
Batch API-তে কি স্ট্রিমিং সমর্থিত?
না, Batch API-তে স্ট্রিমিং সমর্থিত নয়. ব্যাচ অনুরোধগুলো স্ট্রিম করা প্রতিক্রিয়ার বদলে আউটপুট ফাইলের মাধ্যমে ফলাফল ফেরত দেয়.
Batch API-তে কি ছবি সমর্থিত?
হ্যাঁ, Batch API-তে ছবি সমর্থিত.
আমি “The URL provided for this request does not prefix-match the batch endpoint” ত্রুটি বার্তা পেয়েছি. আমার কী করা উচিত?
আপনি এই ত্রুটি পেলে, এর অর্থ হলো আপনার URL Batch API এন্ডপয়েন্টের জন্য ভুলভাবে ফরম্যাট করা হয়েছে. আপনি এন্ডপয়েন্টটি সঠিকভাবে কল করছেন কি না নিশ্চিত করতে অনুগ্রহ করে এখানে আমাদের ডকুমেন্টেশন দেখুন.
Batch API-এর ব্যবহার কি আমার অন্যান্য সীমার মধ্যে গণনা হয়?
Batch API-এর সীমাগুলো বিদ্যমান সীমা থেকে সম্পূর্ণ আলাদা.
কোনো ব্যাচ বাতিল করা হলে কী হয়?
কোনো ব্যাচ ম্যানুয়ালি বাতিল করা হলে, ইতিমধ্যে সম্পন্ন হওয়া ফলাফলগুলো ফেরত দেওয়া হয়. সম্পন্ন হওয়া যেকোনো কাজের জন্য ডেভেলপারদের চার্জ করা হবে.
কোনো ব্যাচের মেয়াদ শেষ হলে কী হয়?
কোনো ব্যাচের মেয়াদ শেষ হলে (অর্থাৎ SLA সময়সীমার মধ্যে এটি সম্পন্ন করা যায়নি), বাকি কাজ বাতিল করা হয় এবং ইতিমধ্যে সম্পন্ন হওয়া যেকোনো কাজ ফেরত দেওয়া হয়. সম্পন্ন হওয়া যেকোনো কাজের জন্য ডেভেলপারদের চার্জ করা হবে.
ব্যাচ জবগুলোর ক্ষেত্রে আমি কী কী স্ট্যাটাস আশা করতে পারি?
ব্যাচ জবের নিম্নলিখিত যেকোনো স্ট্যাটাস থাকতে পারে: যাচাইকরণাধীন, ব্যর্থ, চলমান, চূড়ান্তকরণাধীন, সম্পন্ন, মেয়াদোত্তীর্ণ, বাতিলকরণাধীন, এবং বাতিল. আপনি যদি প্রোগ্রামগতভাবে API স্ট্যাটাস মান পরীক্ষা করেন, তাহলে ছোট হাতের লিটারালগুলো ব্যবহার করুন: validating, failed, in_progress, finalizing, completed, expired, cancelling, এবং cancelled.
যাচাইকরণাধীন: ব্যাচ শুরু হওয়ার আগে আপলোড করা ফাইলের যাচাই চলছে.
ব্যর্থ: ফাইলটি যাচাই প্রক্রিয়ায় ব্যর্থ হয়েছে.
চলমান: ফাইলটি সফলভাবে যাচাই হয়েছে এবং ব্যাচ প্রক্রিয়া চলছে.
চূড়ান্তকরণাধীন: ব্যাচ জব সম্পন্ন হয়েছে এবং ফলাফল প্রস্তুত করা হচ্ছে.
সম্পন্ন: ব্যাচ জব সম্পূর্ণ হয়েছে এবং ফলাফল প্রস্তুত.
মেয়াদোত্তীর্ণ: SLA সময়সীমার মধ্যে ব্যাচটি সম্পন্ন করা যায়নি.
বাতিলকরণাধীন: ব্যাচ জব বাতিল করার প্রক্রিয়া শুরু হয়েছে.
বাতিল: ব্যাচ জবটি বাতিল করা হয়েছে.
আমি ইতিমধ্যে তৈরি করা ব্যাচ জবগুলো কীভাবে পরীক্ষা করতে পারি?
এখানে নির্দিষ্ট API কল ব্যবহার করে আপনি আপনার সব ব্যাচ জবের তালিকা পেতে পারেন.
এই এন্ডপয়েন্টে কি জিরো ডাটা রিটেনশন সমর্থিত?
আপনার সংস্থার জন্য জিরো ডাটা রিটেনশন চালু থাকলে, দয়া করে মনে রাখবেন যে জিরো ডাটা রিটেনশন Batch API-তে প্রযোজ্য নয়. ZDR সংস্থাগুলো ব্যাচ জব তৈরি করতে পারে, কিন্তু ব্যাচ ইনপুট ফাইল, আউটপুট, ত্রুটি, এবং মধ্যবর্তী আর্টিফ্যাক্টগুলো কনফিগার করা Batch, File Service, এবং Sediment রিটেনশন নীতি অনুযায়ী সংরক্ষিত থাকে.