Batch API چگونه کار میکند؟
نقطه پایان Batch API، همانطور که اینجا مستند شده است، به کاربران امکان میدهد درخواستها را برای پردازش دستهای ناهمگام ارسال کنند. ما این درخواستها را ظرف ۲۴ ساعت پردازش میکنیم. جزئیات هر درخواست از یک فایل ازپیشبارگذاریشده خوانده میشود و پاسخها در یک فایل خروجی نوشته میشوند. میتوانید برای بهروزرسانیهای وضعیت و نتایج، شیء batch را پرسوجو کنید.
قیمتگذاری Batch API چگونه است؟
هر مدل با ۵۰٪ تخفیف هزینه نسبت به APIهای همگام ارائه خواهد شد. در اینجا اطلاعات بیشتری درباره قیمتگذاری API ما آمده است.
کدام مدلها را میتوانم بهصورت دستهای اجرا کنم؟
Batch API در بیشتر مدلهای ما بهطور گسترده در دسترس است، اما نه در همه آنها. لطفاً به مستندات مرجع مدل مراجعه کنید تا مطمئن شوید مدلی که استفاده میکنید از Batch API پشتیبانی میکند.
اگر API درخواست من را در زمان وعدهدادهشده تکمیل نکند چه اتفاقی میافتد؟
هدف ما این است که همه درخواستها را ظرف ۲۴ ساعت انجام دهیم. اگر یک دسته منقضی شود (یعنی نتواند در بازه زمانی SLA تکمیل شود)، کارهای باقیمانده لغو میشوند و هر کار ازقبل تکمیلشدهای بازگردانده میشود. از توسعهدهندگان بابت هر کار تکمیلشده هزینه دریافت میشود.
محدودیت تعداد درخواستهایی که میتوانم دستهای کنم چقدر است؟
APIهای Embeddings محدودیت ۱ میلیون درخواست در صف را در هر زمان دارند.
برای همه APIهای دیگر، محدودیتی برای تعداد درخواستهایی که میتوانید دستهای کنید وجود ندارد؛ با این حال، هر سطح استفاده یک محدودیت تعداد درخواست دستهای مرتبط دارد. محدودیت تعداد درخواست دستهای شما شامل حداکثر تعداد توکنهای ورودی است که در یک زمان در صف دارید. میتوانید محدودیتهای تعداد درخواست خود را اینجا پیدا کنید.
آیا میتوانم زمانی را که طول میکشد تا از Batch API پاسخ بگیرم تغییر دهم؟
بازه زمانی مشخص فعلی ما ۲۴ ساعت است. در حال حاضر نمیتوانیم این بازه زمانی را تغییر دهیم.
آیا پخش جریانی در Batch API پشتیبانی میشود؟
خیر، پخش جریانی در Batch API پشتیبانی نمیشود. درخواستهای دستهای نتایج را بهجای پاسخهای جریانی، از طریق فایلهای خروجی برمیگردانند.
آیا تصاویر در Batch API پشتیبانی میشوند؟
بله، تصاویر در Batch API پشتیبانی میشوند.
پیام خطای «نشانی وب ارائهشده برای این درخواست با پیشوند نقطه پایان batch مطابقت ندارد» را دریافت کردم. چه کاری باید انجام دهم؟
اگر این خطا را دریافت میکنید، یعنی URL شما برای نقطه پایان Batch API بهدرستی قالببندی نشده است. لطفاً به مستندات ما در اینجا مراجعه کنید تا مطمئن شوید نقطه پایان را بهدرستی فراخوانی میکنید.
آیا استفاده از Batch API در محدودیت تعداد درخواستهای دیگر من حساب میشود؟
محدودیتهای تعداد درخواست Batch API کاملاً از محدودیتهای موجود جدا هستند.
اگر یک دسته لغو شود چه اتفاقی میافتد؟
اگر یک دسته بهصورت دستی لغو شود، هر نتیجهای که تا آن زمان تکمیل شده باشد بازگردانده میشود. از توسعهدهندگان بابت هر کار تکمیلشده هزینه دریافت میشود.
اگر یک دسته منقضی شود چه اتفاقی میافتد؟
اگر یک دسته منقضی شود (یعنی نتواند در بازه زمانی SLA تکمیل شود)، کارهای باقیمانده لغو میشوند و هر کار ازقبل تکمیلشدهای بازگردانده میشود. از توسعهدهندگان بابت هر کار تکمیلشده هزینه دریافت میشود.
در کارهای دستهای چه وضعیتهایی را میتوانم انتظار داشته باشم؟
کار دستهای میتواند هر یک از وضعیتهای زیر را داشته باشد: در حال اعتبارسنجی، ناموفق، در حال انجام، در حال نهاییسازی، تکمیلشده، منقضیشده، در حال لغو، و لغوشده. اگر مقادیر وضعیت API را بهصورت برنامهنویسی بررسی میکنید، از لفظهای کوچکنویسیشده استفاده کنید: validating, failed, in_progress, finalizing, completed, expired, cancelling, و cancelled.
در حال اعتبارسنجی: اعتبارسنجی فایل بارگذاریشده پیش از آغاز دسته در حال انجام است.
ناموفق: فایل در فرایند اعتبارسنجی ناموفق بوده است.
در حال انجام: فایل با موفقیت اعتبارسنجی شده و فرایند دستهای در حال انجام است.
در حال نهاییسازی: کار دستهای تکمیل شده و نتایج در حال آمادهسازی هستند.
تکمیلشده: کار دستهای کامل شده و نتایج آمادهاند.
منقضیشده: دسته نتوانست در بازه زمانی SLA تکمیل شود.
در حال لغو: لغو کار دستهای آغاز شده است.
لغوشده: کار دستهای لغو شد.
چگونه میتوانم بررسی کنم کدام کارهای دستهای را قبلاً ایجاد کردهام؟
میتوانید با استفاده از فراخوانی API مشخصشده در اینجا فهرستی از همه کارهای دستهای خود دریافت کنید.
آیا عدم ذخیره داده در این نقطه پایان پشتیبانی میشود؟
اگر عدم ذخیره داده برای سازمان شما فعال است، لطفاً توجه داشته باشید که عدم ذخیره داده شامل Batch API نمیشود. سازمانهای ZDR میتوانند کارهای دستهای ایجاد کنند، اما فایلهای ورودی دستهای، خروجیها، خطاها و مصنوعات میانی طبق سیاستهای نگهداری پیکربندیشده Batch، File Service و Sediment نگهداری میشوند.