حالت سریع را برای مشتریان API ارائه می‌کنیم که می‌خواهند در برخی مدل‌ها به عملکردی سریع‌تر و باثبات‌تر دسترسی داشته باشند. در ادامه، پاسخ پرسش‌های متداول درباره نحوه کار، قیمت‌گذاری، دسترسی به مدل‌ها، محدودیت تعداد درخواست، قابلیت اطمینان، سیاست‌ها و شرایط استفاده آمده است.
توجه: نام پردازش اولویت‌دار در ۳۰ ژوئیه ۲۰۲۶ به حالت سریع تغییر کرد. در درخواست‌های API خود می‌توانید از service_tier: priority یا service_tier: fast استفاده کنید.
درباره حالت سریع بیشتر بدانید.
آیا حالت سریع در همه مناطق در دسترس است؟
دسترسی به حالت سریع به قوانین و مقررات لازم‌الاجرا در هر حوزه قضایی بستگی دارد. اگر درباره دسترسی در منطقه خود پرسشی دارید، لطفاً با نماینده OpenAI خود تماس بگیرید.
نحوه کار
مشتریان می‌توانند با استفاده از پارامتر موجود service_tier و تنظیم service_tier = "fast"، ترافیک هر درخواست را جداگانه به حالت سریع هدایت کنند.
هزینه توکن‌های پردازش‌شده در حالت سریع به‌ازای هر توکن و با نرخی بالاتر از پردازش استاندارد محاسبه می‌شود.
علاوه بر تنظیم حالت سریع برای هر درخواست، می‌توانید آن را در تنظیمات پروژه > رده خدمات پیش‌فرض پروژه: سریع به‌عنوان پیش‌فرض پروژه تعیین کنید. همچنان می‌توانید این تنظیم را برای هر درخواست تغییر دهید. انتخاب سریع در تنظیمات پروژه معادل انتخاب اولویت‌دار است.
این حالت چه ارتباطی با رده مقیاس‌بندی دارد؟
رده مقیاس‌بندی همچنان از حالت سریع جدا خواهد بود. هزینهٔ درخواست‌های ارسالی به حالت سریع جداگانه محاسبه می‌شود و از بسته‌های توکن‌بر‌دقیقه (TPM) خریداری‌شدهٔ شما در رده مقیاس‌بندی کسر نخواهد شد.
آیا می‌توانم ترافیک مازاد بر ظرفیت رده مقیاس‌بندی را به‌طور خودکار به حالت سریع بفرستم؟
خیر. ترافیک ارسالی به رده مقیاس‌بندی، در صورت فراتر رفتن از ظرفیت، به‌طور خودکار به حالت سریع منتقل نمی‌شود.
هزینهٔ حالت سریع چگونه محاسبه می‌شود؟
هزینهٔ توکن‌های پردازش‌شده در حالت سریع، به‌ازای هر توکن و با نرخی بالاتر از پردازش استاندارد محاسبه می‌شود.
آیا تعهد سالانهٔ من به حالت پردازش خاصی محدود است؟
خیر. هزینهٔ همهٔ حالت‌های پردازش در تعهد هزینهٔ سالانهٔ Enterprise شما لحاظ می‌شود.
آیا همچنان برای توکن‌های ورودی ذخیره‌شده در حافظه نهان تخفیف می‌گیرم؟
بله. توکن‌های ورودی واجد شرایط که در حافظه نهان ذخیره شده‌اند، از همان تخفیف‌های پردازش استاندارد برخوردار می‌شوند.
چگونه میزان مصرف و هزینه حالت سریع را ببینم؟
برای مشاهده توکن‌های پردازش‌شده در حالت سریع (که قبلاً پردازش اولویت‌دار نام داشت)، به داشبورد مصرف بروید، تکمیل گفت‌وگو یا پاسخ‌ها را انتخاب کنید و سپس گروه‌بندی بر اساس رده خدمات را انتخاب کنید.
برای مشاهده هزینه حالت سریع، به داشبورد مصرف بروید و گروه‌بندی بر اساس ردیف صورتحساب را انتخاب کنید.
در داشبورد مصرف، درخواست‌های حالت سریع برای GPT-5.6 و مدل‌های پیشین با عنوان priority نمایش داده می‌شوند، حتی وقتی در درخواست مقدار fast مشخص شده باشد.
مدل‌ها
آیا حالت سریع از زمینه طولانی، مدل‌های تنظیم دقیق‌شده یا بردارهای تعبیه پشتیبانی می‌کند؟
مدل‌های GPT-5.6 در حالت سریع از زمینه طولانی پشتیبانی می‌کنند. حالت سریع از مدل‌های تنظیم دقیق‌شده یا بردارهای تعبیه پشتیبانی نمی‌کند.
سایر انواع ورودی و خروجی در حالت سریع چگونه کار می‌کنند؟
حالت سریع از همان قابلیت‌های چندوجهی موجود در حالت استاندارد پشتیبانی می‌کند. به‌ویژه، می‌توان از تصاویر به‌عنوان ورودی حالت سریع استفاده کرد؛ این تصاویر با همان تأخیر کم پردازش می‌شوند.
آیا مدل‌های آینده پشتیبانی خواهند شد؟
قصد داریم حالت سریع را برای مدل‌های جدید GPT ارائه کنیم، اما پشتیبانی از تک‌تک مدل‌ها را تضمین نمی‌کنیم.
محدودیت تعداد درخواست
محدودیت تعداد درخواست چقدر است؟
از نظر محدودیت تعداد درخواست، مصرف حالت سریع مانند ترافیک استاندارد API محاسبه می‌شود.
محدودیت‌های نرخ افزایش چیست؟
حالت سریع برای تضمین عملکردی همواره مطلوب برای همه مشتریان، محدودیت‌هایی برای نرخ افزایش دارد و در عین حال قیمت‌گذاری انعطاف‌پذیر بر اساس مصرف را ارائه می‌دهد. اگر هم‌زمان (الف) عملکرد حالت سریع افت کند و (ب) ترافیک مشتری با سرعت بیش‌ازحد افزایش یابد، ممکن است در موارد نادر برخی درخواست‌ها به‌جای حالت سریع با پردازش استاندارد انجام شوند.
محدودیت فعلی نرخ افزایش در حالت سریع، در مستندات حالت سریع تعریف شده است.
روش‌های پیشنهادی برای رعایت محدودیت نرخ افزایش
هنگام تغییر مدل، ترافیک را به‌تدریج افزایش دهید. برای مثال، اگر برنامه شما در حال انتقال از نسخه ثابت قبلی مدل به نسخه جدید است، از یک پرچم قابلیت استفاده کنید تا ترافیک را طی چند ساعت منتقل کنید، نه به‌صورت یک‌باره.
از اجرای کارهای پردازش داده در مقیاس بزرگ یا کارهای ناهمگام در حالت سریع خودداری کنید. این کارها می‌توانند ترافیک را بسیار سریع افزایش دهند و اغلب به عملکرد بهتر حالت سریع نیاز ندارند.
اگر مرتباً به محدودیت‌های نرخ افزایش می‌رسید، خرید سهمیه رده مقیاس‌بندی را به‌عنوان جایگزین در نظر بگیرید.
آیا محدودیت نرخ افزایش بین پروژه‌ها یا سازمان‌های من مشترک است؟
بله، تمام ترافیک شما در محاسبهٔ یک محدودیت نرخ افزایش مشترک لحاظ می‌شود.
سیاست‌ها
اگر حالت سریع به زمان تأخیر هدف نرسد، چه اتفاقی می‌افتد؟
حالت سریع برای GPT-6 Astra هیچ توافق‌نامه سطح خدماتی (SLA) برای زمان تأخیر ندارد. برای GPT-5.6 و مدل‌های پیشین، شرایط SLA در حالت سریع و رده مقیاس‌بندی یکسان است. در قراردادهای Enterprise واجد شرایط، ممکن است در صورت نرسیدن به زمان تأخیر هدف، اعتبار خدمات ارائه شود. اگر پرسشی دارید، با مدیر حساب خود تماس بگیرید.
آیا حالت سریع با الزامات محل اقامت داده سازگار است؟
بله، به شرط آنکه برای مدل موردنظر در دسترس باشد. انتخاب اتحادیه اروپا به‌عنوان محل اقامت داده برای GPT-6.1 Sol، GPT-6 Sol و GPT-6 Luna پشتیبانی می‌شود، اما برای GPT-6 Astra پشتیبانی نمی‌شود.
آیا حالت سریع با ZDR و BAA سازگار است؟
بله، مشروط به رعایت الزامات مربوط به مدل، نقطه پایان، ابزار، شرایط استفاده و قرارداد.
فوق‌سریع برای GPT-6 Astra و GPT-6.1 Sol
فوق‌سریع یک رده خدمات جداگانه برای بارهای کاری‌ای است که به پاسخ‌های GPT-6 Astra و GPT-6.1 Sol با تأخیر کمتر نیاز دارند، مانند برنامه‌های تعاملی و گردش‌کارهای کدنویسی.
راهنمای قیمت‌گذاری، محدودیت تعداد درخواست و سیاست‌های حالت سریع برای درخواست‌هایی اعمال می‌شود که از service_tier="fast" استفاده می‌کنند. درخواست‌های فوق‌سریع از رده جداگانه service_tier="ultrafast" استفاده می‌کنند.
چگونه یک درخواست فوق‌سریع ارسال کنم؟
برای سازمانی که به فوق‌سریع دسترسی دارد، از API Responses با تنظیمات زیر استفاده کنید:
مدل:
gpt-6-astraیاgpt-6.1-solرده خدمات:
ultrafastسرآیند اختیاری درخواست:
OpenAI-Service-Tier: ultrafast
سرآیند درخواست اختیاری است. اگر آن را ارسال می‌کنید، مقدارش باید با رده خدمات در بدنه درخواست مطابقت داشته باشد.
برای برنامه‌هایی که فراخوانی ابزار اجرا می‌کنند، حالت WebSocket امکان استفاده مجدد از یک اتصال در نوبت‌های مختلف را فراهم می‌کند و سربار اتصال را کاهش می‌دهد.
آیا می‌توانم از همین سرآیند درخواست برای رده‌های خدمات دیگر استفاده کنم؟
اگر سرآیند OpenAI-Service-Tier را ارسال کنید، مقدار fast یا ultrafast را می‌پذیرد. اگر به رده خدمات دیگری، مانند default، fast یا flex تغییر می‌دهید، سرآیند را مطابق درخواست به‌روزرسانی یا حذف کنید.
آیا می‌توانم در کار یا Codex از فوق‌سریع استفاده کنم؟
فوق‌سریع در کار و Codex نیز برای طرح‌ها و فضاهای کاری واجد شرایط در دسترس است. شرایط برخورداری و استفاده در طرح‌های ChatGPT با دسترسی از طریق API متفاوت است.
برای جزئیات دسترسی و استفاده، به ChatGPT کار و Codex مراجعه کنید.