اکنون برای مشتریان Enterprise API که میخواهند در برخی مدلها به عملکرد سریعتر و پایدارتر دسترسی داشته باشند، پردازش اولویتدار ارائه میکنیم. در ادامه پاسخ پرسشهای رایج درباره نحوه کارکرد آن، قیمتگذاری، در دسترس بودن مدلها، محدودیتهای تعداد درخواست، قابلیت اطمینان، سیاستها و واجد شرایط بودن آمده است.
اینجا بیشتر بیاموزید.
دسترسی
چه کسی میتواند به پردازش اولویتدار دسترسی داشته باشد؟
پردازش اولویتدار در حال حاضر برای مشتریان Enterprise در دسترس است.
آیا پردازش اولویتدار در همه مناطق در دسترس است؟
در دسترس بودن پردازش اولویتدار به قوانین و مقررات قابل اعمال در هر حوزه قضایی بستگی دارد. اگر درباره در دسترس بودن در منطقه خود پرسشی دارید، لطفاً با مدیر حساب خود تماس بگیرید.
قیمتگذاری
چگونه استفاده از پردازش اولویتدار را شروع کنم؟
مشتریان میتوانند با استفاده از پارامتر موجود service_tier و با گزینه service_tier="priority"، ترافیک را بهازای هر درخواست به پردازش اولویتدار هدایت کنند.
این چگونه با رده مقیاسبندی تعامل دارد؟
رده مقیاسبندی از پردازش اولویتدار جدا خواهد ماند. درخواستهایی که به پردازش اولویتدار ارسال میشوند جداگانه صورتحساب میشوند و در بستههای TPM خریداریشده رده مقیاسبندی شما محاسبه نخواهند شد.
آیا میتوانم ترافیک سرریز رده مقیاسبندی خود را بهطور خودکار به پردازش اولویتدار ارسال کنم؟
خیر. ترافیکی که به رده مقیاسبندی ارسال میشود، بهطور خودکار به پردازش اولویتدار سرریز نخواهد شد.
صورتحساب پردازش اولویتدار چگونه محاسبه میشود؟
توکنهایی که از طریق پردازش اولویتدار ارائه میشوند بر اساس هر توکن صورتحساب میشوند و قیمت آنها نسبت به نرخهای پردازش استاندارد بالاتر است.
آیا تعهد سالانه من به یک حالت پردازش خاص وابسته است؟
خیر. همه حالتهای پردازش در تعهد سالانه هزینهکرد Enterprise شما محاسبه میشوند.
آیا همچنان برای توکنهای ورودی کششده تخفیف میگیرم؟
بله! ورودیهای کششده همان تخفیف ۵۰ تا ۷۵٪ را دریافت میکنند که در پردازش استاندارد دریافت میکنند.
چگونه میزان استفاده و هزینه پردازش اولویتدار خود را ببینم؟
برای مشاهده توکنهایی که با پردازش اولویتدار پردازش شدهاند، به داشبورد Usage بروید، Chat Completions یا Responses را انتخاب کنید و بر اساس رده خدمات گروهبندی کنید. برای مشاهده هزینه پردازش اولویتدار، به داشبورد Usage بروید و Group by Line Item را انتخاب کنید.
مدلها
آیا پردازش اولویتدار برای زمینه طولانی، مدلهای تنظیم دقیقشده، تعبیهها و غیره در دسترس است؟
در حال حاضر خیر. در آینده ارزیابی خواهیم کرد که آیا پردازش اولویتدار را برای محصولات بیشتری فراتر از جدیدترین مدلهای خود ارائه کنیم یا نه.
سایر حالتهای ورودی و خروجی با پردازش اولویتدار چگونه کار میکنند؟
پردازش اولویتدار از همان قابلیتهای چندوجهی موجود در استاندارد پشتیبانی میکند. بهطور خاص، تصاویر میتوانند بهعنوان ورودی برای پردازش اولویتدار استفاده شوند و با همان تأخیر کم پردازش میشوند.
آیا مدلهای آینده پشتیبانی خواهند شد؟
ما قصد داریم پردازش اولویتدار را برای مدلهای جدید GPT ارائه کنیم، اما تضمین نمیکنیم که همه مدلها پشتیبانی شوند.
محدودیتهای تعداد درخواست
محدودیتهای تعداد درخواست چیست؟
مصرف پردازش اولویتدار برای محدودیتهای تعداد درخواست همانند ترافیک استاندارد API در نظر گرفته میشود.
محدودیتهای تعداد درخواست در افزایش تدریجی ترافیک چیست؟
پردازش اولویتدار برای اطمینان از عملکرد بالا و پایدار برای همه مشتریان، در عین ارائه قیمتگذاری منعطف و بر اساس تقاضا، محدودیتهایی برای تعداد درخواست در افزایش تدریجی ترافیک دارد. اگر (الف) عملکرد پردازش اولویتدار کاهش یافته باشد و (ب) ترافیک مشتری بیش از حد سریع افزایش یابد، در موارد نادر ممکن است برخی درخواستهای اولویتدار بهجای آن به پردازش استاندارد تنزل داده شوند.
محدودیت فعلی تعداد درخواست در افزایش تدریجی ترافیک برای پردازش اولویتدار در مستندات اصلی ما اینجا تعریف شده است.
بهترین روشها برای ماندن در محدوده محدودیت تعداد درخواست هنگام افزایش تدریجی ترافیک
هنگام تغییر مدلها، ترافیک را بهتدریج افزایش دهید. برای مثال، اگر برنامه شما از یک اسنپشات قبلی به اسنپشات جدید منتقل میشود، از یک پرچم ویژگی استفاده کنید تا ترافیک طی چند ساعت منتقل شود، نه یکباره.
از اجرای کارهای بزرگ پردازش داده یا کارهای ناهمگام روی پردازش اولویتدار خودداری کنید. این کارها میتوانند ترافیک را بسیار سریع افزایش دهند و اغلب به عملکرد بهبودیافته پردازش اولویتدار نیاز ندارند.
اگر بهطور مرتب با محدودیتهای تعداد درخواست هنگام افزایش تدریجی ترافیک روبهرو میشوید، بهجای آن خرید سهمیه رده مقیاسبندی را در نظر بگیرید.
آیا محدودیتهای تعداد درخواست در افزایش تدریجی ترافیک بین پروژهها یا سازمانهای من مشترک است؟
بله، همه ترافیک شما در همان محدودیت تعداد درخواست هنگام افزایش تدریجی ترافیک محاسبه میشود.
سیاستها
اگر پردازش اولویتدار به هدف تأخیر نرسد چه اتفاقی میافتد؟
لطفاً برای هرگونه پرسش یا نگرانی با AD خود تماس بگیرید. SLAهای پردازش اولویتدار همانند SLAهای رده مقیاسبندی در نظر گرفته میشوند؛ اگر در یک بازه زمانی مشخص نتوانیم برای مشتریان دارای قراردادهای Enterprise به آن SLAها برسیم، اعتبار خدمات ارائه خواهد شد.
آیا پردازش اولویتدار با محل اقامت داده سازگار است؟
بله.
آیا پردازش اولویتدار با ZDR و BAA سازگار است؟
بله.