Белгілі бір модельдерде жылдамырақ әрі тұрақты өнімділікті пайдаланғысы келетін API тұтынушыларына Жылдам режимді ұсынамыз. Төменде оның жұмыс істеу тәртібі, бағасы, модельдердің қолжетімділігі, сұраныс шектеулері, сенімділігі, саясаттары және пайдалану құқығы туралы жиі қойылатын сұрақтарға жауап берілген.
Ескертпе: 2026 жылғы 30 шілдеде «Басымдықпен өңдеу» атауы «Жылдам режим» болып өзгертілді. API сұрауларыңызда service_tier: priority немесе service_tier: fast мәндерінің бірін пайдалана аласыз.
Толығырақ мына жерден оқыңыз.
Жылдам режим барлық аймақта қолжетімді ме?
Жылдам режимнің қолжетімділігі әр юрисдикциядағы қолданыстағы заңдар мен нормативтік талаптарға байланысты. Аймағыңыздағы қолжетімділік туралы сұрақтарыңыз болса, аккаунтыңызға жауапты директорға хабарласыңыз.
Қалай жұмыс істейді
Клиенттер қолданыстағы service_tier параметріне service_tier = "fast" мәнін беру арқылы әр сұранысты Жылдам режимге бағыттай алады.
Жылдам режимде өңделген токендердің әрқайсысы үшін Стандартты өңдеу тарифтерінен жоғары бағамен ақы алынады.
Режимді әр сұранысқа бөлек орнатумен қатар, жобаның әдепкі режимін де Жылдам режимге ауыстыра аласыз: Жоба параметрлері > Әдепкі қызмет деңгейі: Жылдам. Бұл параметрді әр сұраныс үшін бөлек өзгертуге болады. Жоба параметрлерінде «Жылдам» нұсқасын таңдау «Басымдықпен өңдеу» нұсқасын таңдаумен бірдей.
Бұл Масштабтау деңгейімен қалай үйлеседі?
Масштабтау деңгейі Жылдам режимнен бөлек болып қалады. Жылдам режимге жіберілген сұраныстар үшін ақы бөлек есептеледі және олар сатып алған Масштабтау деңгейінің TPM пакеттерінен шегерілмейді.
Масштабтау деңгейінің квотасынан асқан трафикті Жылдам режимге автоматты түрде жібере аламын ба?
Жоқ. Масштабтау деңгейіне жіберілген трафик квотадан асқан жағдайда Жылдам режимге автоматты түрде ауыспайды.
Жылдам режим үшін ақы қалай есептеледі?
Жылдам режимде өңделген токендердің әрқайсысы үшін Стандартты өңдеу тарифтерінен жоғары бағамен ақы алынады.
Жылдық шығын міндеттемем нақты бір өңдеу режиміне байланысты ма?
Жоқ. Барлық өңдеу режимінің шығыны Enterprise бойынша жылдық шығын міндеттемеңізге есептеледі.
Кэштелген кіріс токендеріне жеңілдік әлі де беріле ме?
Иә! Кэштелген кіріс деректеріне Стандартты өңдеудегідей 50–75% жеңілдік беріледі.
Жылдам режимді пайдалану көлемі мен шығынымды қалай көремін?
Жылдам режимде (бұрынғы Басымдықпен өңдеу) өңделген токендерді көру үшін «Пайдалану» бақылау тақтасына өтіп, Chat Completions немесе Responses тармағын, содан кейін «Қызмет деңгейі бойынша топтау» параметрін таңдаңыз.
Жылдам режимге жұмсалған шығынды көру үшін «Пайдалану» бақылау тақтасына өтіп, «Шығын бабы бойынша топтау» параметрін таңдаңыз.
«Пайдалану» бақылау тақтасында service_tier мәні priority немесе fast болған сұраныстар әзірге priority ретінде көрсетіле береді. Болашақ модельдер үшін бұл жаңартылады.
Модельдер
Жылдам режим ұзын контекст, қосымша үйретілген модельдер, векторлық ендірулер және т.б. үшін қолжетімді ме?
Әзірге жоқ. Болашақта Жылдам режимді ең жаңа модельдерімізден бөлек басқа өнімдерге де ұсыну мүмкіндігін қарастырамыз.
Жылдам режимде басқа модальдықтар қалай жұмыс істейді?
Жылдам режим Стандартты өңдеудегі мультимодальды мүмкіндіктердің бәрін қолдайды. Атап айтқанда, суреттерді Басымдықпен өңдеуге кіріс деректері ретінде беруге болады және олар да сондай қысқа кідіріспен өңделеді.
Болашақ модельдерге қолдау көрсетіле ме?
Жылдам режимді жаңа GPT модельдерінде ұсынуды жоспарлап отырмыз, бірақ әрбір модельге қолдау көрсетілетініне кепілдік бермейміз.
Сұраныс шектеулері
Қандай сұраныс шектеулері бар?
Сұраныс шектеулерін есептеу кезінде Басымдықпен өңдеуді пайдалану стандартты API трафигімен бірдей қарастырылады.
Жүктеменің өсу қарқынына қандай шектеулер қойылады?
Жылдам режимде барлық клиент үшін тұрақты жоғары өнімділікті қамтамасыз ету мақсатында жүктеменің өсу қарқынына шектеулер қойылады. Бұл ретте пайдалануға қарай есептелетін икемді баға сақталады. Егер (a) Жылдам режимнің өнімділігі төмендесе ЖӘНЕ (b) клиенттің трафигі тым жылдам өсіп жатса, сирек жағдайларда кейбір сұраныстар Стандартты өңдеуге ауыстырылуы мүмкін.
Жылдам режимдегі жүктеменің өсу қарқынына қойылатын қазіргі шектеу осындағы негізгі құжаттамамызда көрсетілген.
Жүктеменің өсу қарқынына қойылған шектеуден аспауға арналған ұсыныстар
Модельдерді ауыстырғанда трафикті біртіндеп арттырыңыз. Мысалы, қолданбаңыз модельдің алдыңғы нұсқасынан жаңасына көшіп жатса, трафикті бірден емес, бірнеше сағат ішінде ауыстыру үшін функцияны қосу жалаушасын пайдаланыңыз.
Жылдам режимде үлкен көлемді деректерді өңдеу немесе асинхронды тапсырмаларды орындаудан аулақ болыңыз. Мұндай тапсырмалар трафикті өте тез арттыруы мүмкін, ал оларға Жылдам режимнің жоғары өнімділігі көбіне қажет емес.
Жүктеменің өсу қарқынына қойылған шектеулерге жиі тап болсаңыз, оның орнына Масштабтау деңгейінің квотасын сатып алуды қарастырыңыз.
Жүктеменің өсу қарқынына қойылатын шектеулер жобаларым мен ұйымдарым үшін ортақ па?
Иә, бүкіл трафигіңіз жүктеменің өсу қарқынына қойылатын бір ортақ шектеу аясында есептеледі.
Саясаттар
Жылдам режим кідірістің мақсатты көрсеткішіне сай келмесе не болады?
Сұрақтарыңыз не алаңдаушылығыңыз болса, AD өкіліңізге хабарласыңыз. Жылдам режимнің SLA келісімдеріне Масштабтау деңгейінің SLA келісімдерімен бірдей шарттар қолданылады: егер белгілі бір уақыт аралығында Enterprise келісімдері бар клиенттер үшін осы SLA талаптарын орындай алмасақ, қызметті пайдалануға арналған кредиттер беріледі.
Жылдам режим деректердің орналасу аймағы талаптарымен үйлесімді ме?
Иә.
Жылдам режим ZDR және BAA талаптарымен үйлесімді ме?
Иә.
GPT-6 Astra үшін Ultrafast
Ultrafast — интерактивті қолданбалар мен код жазу процестері сияқты GPT-6 Astra жауаптарын қысқа кідіріспен алуды қажет ететін жұмыс жүктемелеріне арналған бөлек қызмет деңгейі.
Жылдам режимнің бағасы, сұраныс шектеулері және саясат жөніндегі нұсқаулары service_tier="fast" қолданылатын сұраныстарға қатысты. Ultrafast сұраныстары бөлек service_tier="ultrafast" деңгейін пайдаланады.
Ultrafast сұранысын қалай жіберемін?
Ұйымыңызға Ultrafast қолжетімді болса, Responses API интерфейсін мына параметрлермен пайдаланыңыз:
Модель:
gpt-6-astraҚызмет деңгейі:
ultrafastСұраныс тақырыбы:
OpenAI-Service-Tier: ultrafast
Қызмет деңгейі параметріне қоса, сұраныс тақырыбын да міндетті түрде көрсету керек.
Құралдарды шақыратын қолданбаларда WebSocket режимі бір қосылымды бірнеше алмасу бойы қайта пайдалануға және қосылым орнатуға кететін қосымша шығынды азайтуға мүмкіндік береді.
Осы сұраныс тақырыбын басқа қызмет деңгейлері үшін де қолдана аламын ба?
Ultrafast альфа-сынағы кезінде OpenAI-Service-Tier тақырыбы тек ultrafast мәнін қабылдайды. Басқа мән, соның ішінде default, fast немесе flex жіберілсе, HTTP 400 қатесі қайтарылады. Басқа деңгейді пайдаланғанда бұл тақырыпты қоспаңыз.
Ultrafast қызметін Жұмыс режимінде немесе Codex ішінде пайдалана аламын ба?
Ultrafast тиісті талаптарға сай келетін жоспарлар мен жұмыс кеңістіктері үшін Жұмыс режимінде және Codex ішінде де қолжетімді. ChatGPT жоспарлары бойынша қолжетімділік пен пайдалану шарттары API шарттарынан өзгеше.
Қолжетімділік пен пайдалану туралы толық ақпаратты ChatGPT Жұмыс және Codex мақаласынан қараңыз.
