Ինչպես է այն աշխատում

Հաճախորդները կարող են յուրաքանչյուր հարցման համար երթևեկությունն ուղղել դեպի Արագ ռեժիմ՝ օգտագործելով առկա service_tier պարամետրը և service_tier = "fast" տարբերակը։

Արագ ռեժիմով մշակված թոքենների վճարը կհաշվարկվի ըստ թոքենների քանակի՝ Ստանդարտ մշակման սակագներից բարձր գնով։

Բացի հարցման մակարդակում կարգավորելուց՝ նախագծի համար կարող եք նաև լռելյայն ընտրել Արագ ռեժիմը՝ Նախագծի կարգավորումներ > Լռելյայն Ծառայության մակարդակ՝ Արագ բաժնում։ Դուք նախկինի պես կարող եք այն վերասահմանել յուրաքանչյուր հարցման համար։ Նախագծի կարգավորումներում «Արագ» ընտրելը համարժեք է «Առաջնահերթ» ընտրելուն։

Ինչպե՞ս է սա փոխգործակցում Մասշտաբավորման մակարդակի հետ։

Մասշտաբավորման մակարդակը կմնա Արագ ռեժիմից առանձին։ Արագ ռեժիմին ուղարկված հարցումների վճարը կհաշվարկվի առանձին, և դրանք չեն հաշվարկվի ձեր գնած Մասշտաբավորման մակարդակի TPM փաթեթների դիմաց։

Կարո՞ղ եմ Մասշտաբավորման մակարդակի ավելցուկային երթևեկությունն ինքնաբերաբար ուղարկել Արագ ռեժիմ։

Ոչ։ Մասշտաբավորման մակարդակին ուղարկված երթևեկությունն ինքնաբերաբար չի փոխանցվի Արագ ռեժիմ։

Ինչպե՞ս է հաշվարկվում Արագ ռեժիմի վճարը։

Արագ ռեժիմով մշակված թոքենների վճարը կհաշվարկվի ըստ թոքենների քանակի՝ Ստանդարտ մշակման սակագներից բարձր գնով։

Իմ տարեկան պարտավորությունը կապվա՞ծ է մշակման որոշակի ռեժիմի հետ։

Ոչ։ Մշակման բոլոր ռեժիմները հաշվարկվում են Enterprise-ի ձեր տարեկան ծախսային պարտավորության դիմաց։

Քեշավորված մուտքային թոքենների համար դեռ զեղչ ստանո՞ւմ եմ։

Այո՛։ Քեշավորված մուտքային տվյալների համար գործում է նույն 50-75% զեղչը, ինչ Ստանդարտ մշակման դեպքում։

Ինչպե՞ս դիտեմ Արագ ռեժիմի օգտագործումն ու ծախսերը։

Արագ ռեժիմով (նախկինում՝ Առաջնահերթ մշակում) մշակված թոքենները դիտելու համար անցեք Օգտագործման վահանակ, ընտրեք Chat Completions կամ Responses, ապա խմբավորեք ըստ Ծառայության մակարդակի։

Արագ ռեժիմի ծախսը դիտելու համար անցեք Օգտագործման վահանակ և ընտրեք «Խմբավորել ըստ ծախսային հոդվածի»։

Օգտագործման վահանակում այն հարցումները, որոնց service_tier-ը priority կամ fast է, կշարունակեն ցուցադրվել որպես priority։ Ապագա մոդելների համար սա կթարմացվի։

Մոդելներ

Արագ ռեժիմը հասանելի՞ է երկար համատեքստի, լրացուցիչ ուսուցում անցած մոդելների, ներդրումների և այլնի համար։

Այս պահին՝ ոչ։ Ապագայում կգնահատենք՝ արդյոք Արագ ռեժիմն առաջարկել մեր նորագույն մոդելներից բացի նաև այլ արտադրանքներում։

Ինչպե՞ս են մյուս եղանակներն աշխատում Արագ ռեժիմի հետ։

Արագ ռեժիմն ապահովում է Ստանդարտ ռեժիմում հասանելի նույն բազմաեղանակ հնարավորությունները։ Մասնավորապես, պատկերները կարող են օգտագործվել որպես Առաջնահերթ մշակման մուտքային տվյալներ և մշակվում են նույն ցածր ուշացմամբ։

Ապագա մոդելներն աջակցվե՞լու են։

Նախատեսում ենք Արագ ռեժիմն առաջարկել նոր GPT մոդելներում, սակայն չենք երաշխավորում, որ բոլոր մոդելները կաջակցվեն։

Սահմանաչափեր

Որո՞նք են սահմանաչափերը։

Սահմանաչափերի հաշվարկման ժամանակ Առաջնահերթ մշակման օգտագործումը դիտարկվում է նույն կերպ, ինչ ստանդարտ API երթևեկությունը։

Որո՞նք են երթևեկության աճի տեմպի սահմանաչափերը։

Արագ ռեժիմն ունի երթևեկության աճի տեմպի սահմանաչափեր՝ բոլոր հաճախորդների համար մշտապես բարձր արդյունավետություն ապահովելու և միաժամանակ ճկուն, ըստ պահանջի գնագոյացում առաջարկելու համար։ Եթե (ա) Արագ ռեժիմի աշխատանքը վատթարանում է ԵՎ (բ) հաճախորդի երթևեկությունը չափազանց արագ է աճում, ապա հազվադեպ դեպքերում որոշ հարցումներ կարող են փոխարենը փոխանցվել Ստանդարտ մշակման։

Արագ ռեժիմի՝ երթևեկության աճի տեմպի ընթացիկ սահմանաչափը սահմանված է այստեղ՝ մեր հիմնական փաստաթղթերում։

Երթևեկության աճի տեմպի սահմանաչափը չգերազանցելու լավագույն գործելակերպերը

Մոդելները փոխելիս երթևեկությունն ավելացրեք աստիճանաբար։ Օրինակ՝ եթե ձեր հավելվածը նախորդ տարբերակից անցնում է նորին, օգտագործեք գործառույթի դրոշակ՝ երթևեկությունը միանգամից տեղափոխելու փոխարեն մի քանի ժամվա ընթացքում աստիճանաբար փոխանցելու համար։

Խուսափեք Արագ ռեժիմում տվյալների մշակման խոշոր կամ ասինխրոն առաջադրանքներ գործարկելուց։ Այս առաջադրանքները կարող են շատ արագ ավելացնել երթևեկությունը և հաճախ Արագ ռեժիմի բարելավված արդյունավետության կարիքը չունեն։

Եթե պարբերաբար բախվում եք երթևեկության աճի տեմպի սահմանաչափերին, փոխարենը դիտարկեք Մասշտաբավորման մակարդակի քվոտա գնելու տարբերակը։

Երթևեկության աճի տեմպի սահմանաչափերը ընդհանուր՞ են իմ նախագծերի կամ կազմակերպությունների համար։

Այո՛, ձեր ամբողջ երթևեկությունը հաշվարկվում է երթևեկության աճի տեմպի նույն սահմանաչափի մեջ։

Կանոններ

Ի՞նչ է տեղի ունենում, եթե Արագ ռեժիմը չի ապահովում ուշացման նպատակային ցուցանիշը։

Հարցերի կամ մտահոգությունների դեպքում դիմեք ձեր AD-ին։ Արագ ռեժիմի SLA-ները կդիտարկվեն նույն կերպ, ինչ Մասշտաբավորման մակարդակի SLA-ները․ եթե տվյալ ժամանակահատվածում չապահովենք այդ SLA-ները Enterprise պայմանագրով հաճախորդների համար, կառաջարկվեն ծառայության կրեդիտներ։

Արագ ռեժիմը համատեղելի՞ է տվյալների մշակման հավելվածի հետ։

Այո։

Արագ ռեժիմը համատեղելի՞ է ZDR-ի և BAA-ի հետ։

Այո։