Енді біз белгілі бір модельдерде жылдамырақ әрі тұрақтырақ өнімділікке қол жеткізгісі келетін Enterprise API клиенттері үшін Басымдықпен өңдеуді ұсынамыз. Төменде оның қалай жұмыс істейтіні, бағасы, модельдердің қолжетімділігі, сұраныс шектеулері, сенімділігі, саясаттары және жарамдылығы туралы жиі қойылатын сұрақтарға жауаптар берілген.
Толығырақ осында.
Қолжетімділік
Басымдықпен өңдеуге кім қол жеткізе алады?
Басымдықпен өңдеу қазіргі уақытта Enterprise клиенттеріне қолжетімді.
Басымдықпен өңдеу барлық өңірлерде қолжетімді ме?
Басымдықпен өңдеудің қолжетімділігі әр юрисдикциядағы қолданыстағы заңдар мен ережелерге байланысты. Өңіріңіздегі қолжетімділік туралы сұрақтарыңыз болса, Account Director-ыңызға хабарласыңыз.
Баға белгілеу
Басымдықпен өңдеуді пайдалануды қалай бастаймын?
Клиенттер бар service_tier параметрін пайдаланып, service_tier="priority" опциясымен трафикті әр сұраныс бойынша Басымдықпен өңдеуге бағыттай алады.
Бұл Масштабтау деңгейімен қалай әрекеттеседі?
Масштабтау деңгейі Басымдықпен өңдеуден бөлек болып қала береді. Басымдықпен өңдеуге жіберілген сұраныстар бөлек есептеледі және сатып алынған Масштабтау деңгейі TPM пакеттеріне есептелмейді.
Масштабтау деңгейінен асып кеткен трафигімді автоматты түрде Басымдықпен өңдеуге жібере аламын ба?
Жоқ. Масштабтау деңгейіне жіберілген трафик автоматты түрде Басымдықпен өңдеуге ауыспайды.
Басымдықпен өңдеу үшін төлем қалай есептеледі?
Басымдықпен өңдеу арқылы қызмет көрсетілген токендер үшін төлем әр токен бойынша есептеледі және бағасы Стандартты өңдеу мөлшерлемелерінен жоғары болады.
Менің жылдық міндеттемем нақты бір өңдеу режиміне байланысты ма?
Жоқ. Барлық өңдеу режимдері сіздің жылдық Enterprise шығын міндеттемеңізге есептеледі.
Кэштелген кіріс токендеріне әлі де жеңілдік аламын ба?
Иә! Кэштелген кірістер Стандартты өңдеудегідей 50–75% жеңілдік алады.
Басымдықпен өңдеуді пайдалануым мен шығынымды қалай көремін?
Басымдықпен өңдеу арқылы өңделген токендерді көру үшін Usage бақылау тақтасына өтіп, Chat Completions немесе Responses таңдаңыз да, Қызмет деңгейі бойынша топтастырыңыз. Басымдықпен өңдеу құнын көру үшін Usage бақылау тақтасына өтіп, Line Item бойынша топтастыруды таңдаңыз.
Модельдер
Басымдықпен өңдеу ұзын контекст, дәл бапталған модельдер, ендірулер және т.б. үшін қолжетімді ме?
Қазіргі уақытта жоқ. Болашақта Басымдықпен өңдеуді ең жаңа модельдерімізден басқа қосымша өнімдерде ұсыну-ұсынбауды бағалаймыз.
Басқа модальділіктер Басымдықпен өңдеумен қалай жұмыс істейді?
Басымдықпен өңдеу Standard-та қолжетімді бірдей мультимодальді мүмкіндіктерді қолдайды. Атап айтқанда, кескіндерді Басымдықпен өңдеуге кіріс ретінде пайдалануға болады және олар дәл сондай жылдам кідіріспен өңделеді.
Болашақ модельдерге қолдау көрсетіле ме?
Біз жаңа GPT модельдерінде Басымдықпен өңдеуді ұсынуды жоспарлап отырмыз, бірақ әрбір модельге қолдау көрсетілетініне кепілдік бермейміз.
Сұраныс шектеулері
Сұраныс шектеулері қандай?
Басымдықпен өңдеуді тұтыну сұраныс шектеулері үшін стандартты API трафигімен бірдей қарастырылады.
Ұлғайту қарқынының сұраныс шектеулері қандай?
Басымдықпен өңдеуде барлық клиенттер үшін тұрақты жоғары өнімділікті қамтамасыз ету және сонымен бірге икемді, сұраныс бойынша баға ұсыну үшін ұлғайту қарқынының сұраныс шектеулері бар. Егер (a) Басымдықпен өңдеу өнімділігі нашарласа ЖӘНЕ (b) клиент трафигі тым жылдам артып жатса, сирек жағдайларда кейбір Басымдық сұраныстары оның орнына Стандартты өңдеуге төмендетілуі мүмкін.
Басымдықпен өңдеудің ағымдағы ұлғайту қарқынының сұраныс шектеуі негізгі құжаттамамызда осында анықталған.
Ұлғайту қарқынының сұраныс шектеуінен аспауға арналған үздік тәжірибелер
Модельдерді ауыстырған кезде трафикті біртіндеп арттырыңыз. Мысалы, қолданбаңыз алдыңғы снапшоттан жаңасына ауысып жатса, трафикті бірден емес, бірнеше сағат ішінде ауыстыру үшін мүмкіндік жалаушасын пайдаланыңыз.
Басымдықпен өңдеуде үлкен деректерді өңдеу немесе асинхронды тапсырмаларды орындаудан аулақ болыңыз. Бұл тапсырмалар трафикті өте жылдам арттыра алады және көбіне Басымдықпен өңдеудің жақсартылған өнімділігін қажет етпейді.
Ұлғайту қарқынының сұраныс шектеулеріне жиі тап болсаңыз, оның орнына Масштабтау деңгейі квотасын сатып алуды қарастырыңыз.
Ұлғайту қарқынының сұраныс шектеулері жобаларым немесе ұйымдарым арасында ортақ па?
Иә, барлық трафигіңіз бірдей ұлғайту қарқынының сұраныс шектеуіне үлес қосады.
Саясаттар
Басымдықпен өңдеу кідіріс мақсатына сай келмесе не болады?
Кез келген сұрақтарыңыз немесе алаңдаушылықтарыңыз болса, AD-іңізге хабарласыңыз. Басымдықпен өңдеу SLA-лары Масштабтау деңгейі SLA-ларымен бірдей қарастырылады; белгілі бір уақыт аралығында Enterprise келісімдеріндегі клиенттер үшін осы SLA-ларды орындай алмасақ, қызмет кредиттері ұсынылады.
Басымдықпен өңдеу деректердің орналасу аймағымен үйлесімді ме?
Иә.
Басымдықпен өңдеу ZDR және BAA-мен үйлесімді ме?
Иә.