ပိုမိုမြန်ဆန်ပြီး တသမတ်တည်းရှိသော စွမ်းဆောင်ရည်ကို အချို့မော်ဒယ်များတွင် အသုံးပြုလိုသည့် API သုံးစွဲသူများအတွက် အမြန်မုဒ်ကို ပံ့ပိုးပေးထားပါသည်။ ၎င်း၏ လုပ်ဆောင်ပုံ၊ ဈေးနှုန်း၊ မော်ဒယ်ရရှိနိုင်မှု၊ နှုန်းထားကန့်သတ်ချက်များ၊ ယုံကြည်စိတ်ချရမှု၊ မူဝါဒများနှင့် အသုံးပြုခွင့်အရည်အချင်းတို့အကြောင်း အမေးများသော မေးခွန်းများ၏ အဖြေများကို အောက်တွင် ဖော်ပြထားပါသည်။
မှတ်ချက်။ Priority processing ကို ၂၀၂၆ ခုနှစ်၊ ဇူလိုင်လ ၃၀ ရက်တွင် အမြန်မုဒ်ဟု အမည်ပြောင်းခဲ့ပါသည်။ သင်၏ API တောင်းဆိုမှုများတွင် service_tier: priority သို့မဟုတ် service_tier: fast တစ်ခုခုကို အသုံးပြုနိုင်ပါသည်။
ပိုမိုလေ့လာရန် ဤနေရာကို ကြည့်ပါ။
အမြန်မုဒ်ကို ဒေသအားလုံးတွင် အသုံးပြုနိုင်ပါသလား။
အမြန်မုဒ်ကို အသုံးပြုနိုင်မှုသည် သက်ဆိုင်ရာ စီရင်ပိုင်ခွင့်နယ်မြေတစ်ခုစီ၏ ဥပဒေများနှင့် စည်းမျဉ်းများပေါ် မူတည်ပါသည်။ သင့်ဒေသတွင် အသုံးပြုနိုင်မှုနှင့်ပတ်သက်၍ မေးမြန်းလိုပါက သင့် Account Director ကို ဆက်သွယ်ပါ။
အလုပ်လုပ်ပုံ
သုံးစွဲသူတွေက ရှိပြီးသား service_tier ပါရာမီတာမှာ service_tier = "fast" ကို ရွေးချယ်သုံးပြီး တောင်းဆိုမှုတစ်ခုချင်းစီကို အမြန်မုဒ်သို့ ပေးပို့နိုင်ပါတယ်။
အမြန်မုဒ်က စီမံဆောင်ရွက်ပေးတဲ့ တိုကင်များကို တိုကင်တစ်ခုချင်းစီအလိုက် ကျသင့်ငွေတွက်ချက်မှာဖြစ်ပြီး ပုံမှန်စီမံဆောင်ရွက်မှုထက် ပိုမြင့်တဲ့ နှုန်းထားနဲ့ ကောက်ခံပါမယ်။
တောင်းဆိုမှုအလိုက် သတ်မှတ်နိုင်တဲ့အပြင် ပရောဂျက် ဆက်တင်များ > မူလဝန်ဆောင်မှုအဆင့်: အမြန် မှာ ပရောဂျက်တစ်ခုအတွက် အမြန်မုဒ်ကို မူလမုဒ်အဖြစ် သတ်မှတ်နိုင်ပါတယ်။ တောင်းဆိုမှုတစ်ခုချင်းစီအတွက် မူလသတ်မှတ်ချက်ကို ပြောင်းလဲသုံးနိုင်ပါသေးတယ်။ ပရောဂျက် ဆက်တင်တွေမှာ အမြန် ကို ရွေးချယ်တာက ဦးစားပေး ကို ရွေးချယ်တာနဲ့ အတူတူပါပဲ။
ဒီမုဒ်က Scale အဆင့်နဲ့ ဘယ်လို ဆက်စပ်ပါသလဲ။
Scale အဆင့်ဟာ အမြန်မုဒ်နဲ့ သီးခြားစီ ဆက်ရှိနေပါမယ်။ အမြန်မုဒ်သို့ ပေးပို့တဲ့ တောင်းဆိုမှုများအတွက် ကျသင့်ငွေကို သီးခြားကောက်ခံမှာဖြစ်ပြီး သင်ဝယ်ယူထားတဲ့ Scale အဆင့် TPM ပက်ကေ့ချ်တွေထဲက နုတ်ယူတွက်ချက်မှာ မဟုတ်ပါဘူး။
Scale အဆင့်မှာ ပမာဏကျော်လွန်သွားတဲ့ တောင်းဆိုမှုတွေကို အမြန်မုဒ်သို့ အလိုအလျောက် ပေးပို့နိုင်ပါသလား။
မရပါဘူး။ Scale အဆင့်သို့ ပေးပို့တဲ့ တောင်းဆိုမှုတွေက ပမာဏကျော်လွန်သွားရင် အမြန်မုဒ်သို့ အလိုအလျောက် ပြောင်းသွားမှာ မဟုတ်ပါဘူး။
အမြန်မုဒ်အတွက် ကျသင့်ငွေကို ဘယ်လို ကောက်ခံပါသလဲ။
အမြန်မုဒ်က စီမံဆောင်ရွက်ပေးတဲ့ တိုကင်များကို တိုကင်တစ်ခုချင်းစီအလိုက် ကျသင့်ငွေတွက်ချက်မှာဖြစ်ပြီး ပုံမှန်စီမံဆောင်ရွက်မှုထက် ပိုမြင့်တဲ့ နှုန်းထားနဲ့ ကောက်ခံပါမယ်။
ကျွန်ုပ်ရဲ့ နှစ်စဉ်သုံးစွဲမယ်လို့ သဘောတူထားတဲ့ ပမာဏက စီမံဆောင်ရွက်မှုမုဒ်တစ်ခုတည်းအတွက်ပဲလား။
မဟုတ်ပါဘူး။ စီမံဆောင်ရွက်မှုမုဒ်အားလုံးရဲ့ ကုန်ကျစရိတ်ကို Enterprise အတွက် နှစ်စဉ်သုံးစွဲမယ်လို့ သဘောတူထားတဲ့ ပမာဏထဲမှာ ထည့်တွက်ပါတယ်။
ကက်ရှ်တွင် သိမ်းထားသော အဝင်တိုကင်များအတွက် လျှော့ဈေး ဆက်ရဦးမလား။
ရပါတယ်။ ကက်ရှ်တွင် သိမ်းထားသော အဝင်ဒေတာများအတွက် ပုံမှန်စီမံဆောင်ရွက်မှုနည်းတူ 50-75% လျှော့ဈေး ရရှိပါတယ်။
ကျွန်ုပ်ရဲ့ အမြန်မုဒ် သုံးစွဲမှုနဲ့ ကုန်ကျစရိတ်ကို ဘယ်လို ကြည့်ရမလဲ။
အမြန်မုဒ် (ယခင် ဦးစားပေးစီမံဆောင်ရွက်မှု) က စီမံဆောင်ရွက်ထားတဲ့ တိုကင်များကို ကြည့်ဖို့ သုံးစွဲမှု ဒက်ရှ်ဘုတ်သို့ သွားပြီး Chat Completions သို့မဟုတ် Responses ကို ရွေးချယ်ကာ ဝန်ဆောင်မှုအဆင့်အလိုက် အုပ်စုဖွဲ့ပါ။
အမြန်မုဒ် ကုန်ကျစရိတ်ကို ကြည့်ဖို့ သုံးစွဲမှု ဒက်ရှ်ဘုတ်သို့ သွားပြီး စာရင်းအမျိုးအစားအလိုက် အုပ်စုဖွဲ့ရန် ကို ရွေးပါ။
သုံးစွဲမှု ဒက်ရှ်ဘုတ်မှာ service_tier အဖြစ် priority သို့မဟုတ် fast ကို သုံးထားတဲ့ တောင်းဆိုမှုတွေကို priority အဖြစ် ဆက်လက်ပြသနေပါမယ်။ နောင်ထွက်မယ့် မော်ဒယ်တွေအတွက် ဒီပြသပုံကို ပြင်ဆင်သွားပါမယ်။
မော်ဒယ်များ
ရှည်လျားသော ဆက်စပ်အကြောင်းအရာများ၊ ထပ်မံလေ့ကျင့်ညှိယူထားသော မော်ဒယ်များ၊ embedding များ စတာတွေအတွက် အမြန်မုဒ်ကို သုံးနိုင်ပါသလား။
လောလောဆယ် မရသေးပါဘူး။ ကျွန်ုပ်တို့ရဲ့ နောက်ဆုံးပေါ် မော်ဒယ်များအပြင် အခြားထုတ်ကုန်တွေမှာပါ အမြန်မုဒ်ကို ပံ့ပိုးပေးသင့်မသင့် အနာဂတ်မှာ အကဲဖြတ်သွားပါမယ်။
အမြန်မုဒ်မှာ အခြားဒေတာပုံစံတွေကို ဘယ်လို ကိုင်တွယ်ဆောင်ရွက်ပါသလဲ။
အမြန်မုဒ်က ပုံမှန်မုဒ်မှာ ရရှိတဲ့ ဒေတာပုံစံမျိုးစုံ ကိုင်တွယ်နိုင်စွမ်းများကို အလားတူ ပံ့ပိုးပေးပါတယ်။ အထူးသဖြင့် ပုံများကို ဦးစားပေးစီမံဆောင်ရွက်မှုအတွက် အဝင်ဒေတာအဖြစ် သုံးနိုင်ပြီး တူညီတဲ့ မြန်ဆန်သော တုံ့ပြန်ချိန်နဲ့ စီမံဆောင်ရွက်ပေးပါတယ်။
နောင်ထွက်မယ့် မော်ဒယ်တွေကို ပံ့ပိုးပေးမှာလား။
GPT မော်ဒယ်အသစ်တွေမှာ အမြန်မုဒ်ကို ပံ့ပိုးပေးဖို့ စီစဉ်ထားပေမဲ့ မော်ဒယ်တိုင်းမှာ ပံ့ပိုးပေးမယ်လို့ အာမမခံပါဘူး။
နှုန်းထားကန့်သတ်ချက်များ
နှုန်းထားကန့်သတ်ချက်တွေက ဘာတွေလဲ။
နှုန်းထားကန့်သတ်ချက်များအတွက် ဦးစားပေးစီမံဆောင်ရွက်မှု သုံးစွဲပမာဏကို ပုံမှန် API တောင်းဆိုမှုပမာဏနဲ့ အတူတူ သတ်မှတ်တွက်ချက်ပါတယ်။
တိုးတက်နှုန်း ကန့်သတ်ချက်တွေက ဘာတွေလဲ။
အမြန်မုဒ်မှာ သုံးစွဲသူအားလုံးအတွက် စွမ်းဆောင်ရည် အမြဲကောင်းမွန်နေစေဖို့ တိုးတက်နှုန်း ကန့်သတ်ချက်များ ထားရှိပြီး လိုအပ်သလို သုံးစွဲပေးချေနိုင်တဲ့ ပြောင်းလွယ်ပြင်လွယ် ဈေးနှုန်းစနစ်ကိုလည်း ပံ့ပိုးထားပါတယ်။ (a) အမြန်မုဒ်ရဲ့ စွမ်းဆောင်ရည် ကျဆင်းနေပြီး (b) သုံးစွဲသူတစ်ဦးရဲ့ တောင်းဆိုမှုပမာဏလည်း လျင်မြန်လွန်းစွာ တိုးလာနေပါက ရှားရှားပါးပါး အခြေအနေများမှာ တောင်းဆိုမှုအချို့ကို ပုံမှန်စီမံဆောင်ရွက်မှုသို့ လျှော့ချပြောင်းလဲနိုင်ပါတယ်။
အမြန်မုဒ်ရဲ့ လက်ရှိ တိုးတက်နှုန်း ကန့်သတ်ချက်ကို ဒီနေရာရှိ ကျွန်ုပ်တို့ရဲ့ အဓိကနည်းပညာလမ်းညွှန်မှာ သတ်မှတ်ဖော်ပြထားပါတယ်။
တိုးတက်နှုန်း ကန့်သတ်ချက်အတွင်း ရှိနေစေဖို့ အကောင်းဆုံး လုပ်ဆောင်နည်းများ
မော်ဒယ်များ ပြောင်းလဲတဲ့အခါ တောင်းဆိုမှုပမာဏကို တဖြည်းဖြည်း တိုးမြှင့်ပါ။ ဥပမာ သင့်အက်ပ်က ယခင်မော်ဒယ်ဗားရှင်းမှ အသစ်သို့ ပြောင်းရွှေ့နေပါက တောင်းဆိုမှုအားလုံးကို တစ်ပြိုင်တည်း ပြောင်းမယ့်အစား လုပ်ဆောင်ချက် အဖွင့်အပိတ်ထိန်းချုပ်မှုကို သုံးပြီး နာရီအနည်းငယ်အတွင်း တဖြည်းဖြည်း ပြောင်းရွှေ့ပါ။
အမြန်မုဒ်မှာ ဒေတာအမြောက်အမြား စီမံဆောင်ရွက်တဲ့အလုပ်များ သို့မဟုတ် အချိန်ကိုက်လုပ်ဆောင်ဖို့ မလိုတဲ့အလုပ်များကို မလုပ်ဆောင်ပါနဲ့။ ဒီအလုပ်တွေက တောင်းဆိုမှုပမာဏကို အလွန်လျင်မြန်စွာ တိုးလာစေနိုင်ပြီး အများအားဖြင့် အမြန်မုဒ်ရဲ့ ပိုကောင်းတဲ့ စွမ်းဆောင်ရည်ကို မလိုအပ်ပါဘူး။
တိုးတက်နှုန်း ကန့်သတ်ချက်တွေကို မကြာခဏ ကြုံတွေ့နေရပါက Scale အဆင့် သုံးစွဲခွင့်ပမာဏကို ဝယ်ယူဖို့ စဉ်းစားပါ။
ကျွန်ုပ်ရဲ့ ပရောဂျက်များ သို့မဟုတ် အဖွဲ့အစည်းများအတွက် တိုးတက်နှုန်း ကန့်သတ်ချက်ကို စုပေါင်းသတ်မှတ်ထားပါသလား။
ဟုတ်ပါတယ်။ သင့်ရဲ့ တောင်းဆိုမှုပမာဏအားလုံးကို တိုးတက်နှုန်း ကန့်သတ်ချက်တစ်ခုတည်းအောက်မှာ စုပေါင်းတွက်ချက်ပါတယ်။
မူဝါဒများ
အမြန်မုဒ်က သတ်မှတ်ထားတဲ့ တုံ့ပြန်ချိန်ကို မမီရင် ဘာဖြစ်မလဲ။
မေးခွန်းများ သို့မဟုတ် စိုးရိမ်ပူပန်မှုများ ရှိပါက သင့် AD ကို ဆက်သွယ်ပါ။ အမြန်မုဒ်ရဲ့ SLA များကို Scale အဆင့်ရဲ့ SLA များနည်းတူ ကိုင်တွယ်ဆောင်ရွက်ပါမယ်။ သတ်မှတ်ထားတဲ့ အချိန်ကာလအတွင်း Enterprise သဘောတူညီချက်ရှိတဲ့ သုံးစွဲသူများအတွက် အဲဒီ SLA များကို ကျွန်ုပ်တို့ မဖြည့်ဆည်းနိုင်ပါက ဝန်ဆောင်မှု ခရက်ဒစ်များ ပေးအပ်ပါမယ်။
အမြန်မုဒ်က ဒေတာ သိမ်းဆည်းပြီး စီမံဆောင်ရွက်သည့်နေရာ သတ်မှတ်ချက်နဲ့ ကိုက်ညီပါသလား။
ကိုက်ညီပါတယ်။
အမြန်မုဒ်က ZDR နဲ့ BAA တို့နဲ့ ကိုက်ညီပါသလား။
ကိုက်ညီပါတယ်။
GPT-6 Astra အတွက် Ultrafast
Ultrafast ဟာ အပြန်အလှန်တုံ့ပြန်တဲ့ အက်ပ်များနဲ့ ကုဒ်ရေးသားမှု လုပ်ငန်းစဉ်များလို GPT-6 Astra ရဲ့ တုံ့ပြန်ချက်တွေကို ပိုမိုမြန်ဆန်စွာ ရရှိဖို့ လိုအပ်တဲ့ အလုပ်များအတွက် သီးခြားဝန်ဆောင်မှုအဆင့်တစ်ခု ဖြစ်ပါတယ်။
အမြန်မုဒ်ရဲ့ ဈေးနှုန်း၊ နှုန်းထားကန့်သတ်ချက်နဲ့ မူဝါဒလမ်းညွှန်ချက်တွေက service_tier="fast" ကို သုံးတဲ့ တောင်းဆိုမှုများအပေါ် အကျုံးဝင်ပါတယ်။ Ultrafast တောင်းဆိုမှုများက သီးခြားဖြစ်တဲ့ service_tier="ultrafast" အဆင့်ကို သုံးပါတယ်။
Ultrafast တောင်းဆိုမှုတစ်ခုကို ဘယ်လို ပေးပို့ရမလဲ။
Ultrafast အသုံးပြုခွင့်ရှိတဲ့ အဖွဲ့အစည်းအတွက် အောက်ပါသတ်မှတ်ချက်တွေနဲ့ Responses API ကို သုံးပါ။
မော်ဒယ်:
gpt-6-astraဝန်ဆောင်မှုအဆင့်:
ultrafastတောင်းဆိုမှုခေါင်းစီး:
OpenAI-Service-Tier: ultrafast
ဝန်ဆောင်မှုအဆင့် သတ်မှတ်ချက်အပြင် တောင်းဆိုမှုခေါင်းစီးကိုလည်း ထည့်ပေးဖို့ လိုအပ်ပါတယ်။
ကိရိယာခေါ်ဆိုမှုများ လုပ်ဆောင်တဲ့ အက်ပ်တွေအတွက် WebSocket မုဒ် က အပြန်အလှန်တုံ့ပြန်မှု အလှည့်တွေမှာ ချိတ်ဆက်မှုတစ်ခုတည်းကို ပြန်သုံးနိုင်စေပြီး ချိတ်ဆက်မှုအတွက် အပိုအချိန်နဲ့ အရင်းအမြစ် သုံးစွဲမှုကို လျှော့ချပေးပါတယ်။
အခြားဝန်ဆောင်မှုအဆင့်တွေအတွက် တူညီတဲ့ တောင်းဆိုမှုခေါင်းစီးကို သုံးနိုင်ပါသလား။
Ultrafast ရဲ့ အယ်လ်ဖာစမ်းသပ်ကာလမှာ OpenAI-Service-Tier ခေါင်းစီးက ultrafast ကိုသာ လက်ခံပါတယ်။ default၊ fast သို့မဟုတ် flex အပါအဝင် အခြားတန်ဖိုးတစ်ခု ပေးပို့ပါက HTTP 400 အမှားကို ပြန်ပေးပါမယ်။ အခြားအဆင့်တစ်ခုကို သုံးတဲ့အခါ ဒီခေါင်းစီးကို မထည့်ပါနဲ့။
အလုပ် သို့မဟုတ် Codex မှာ Ultrafast ကို သုံးနိုင်ပါသလား။
အကျုံးဝင်တဲ့ အစီအစဉ်များနဲ့ အလုပ်နေရာများအတွက် အလုပ် နဲ့ Codex မှာလည်း Ultrafast ကို သုံးနိုင်ပါတယ်။ ChatGPT အစီအစဉ်တွေရဲ့ အကျုံးဝင်မှုနဲ့ သုံးစွဲမှုဟာ API အသုံးပြုခွင့်နဲ့ ကွာခြားပါတယ်။
ရရှိနိုင်မှုနဲ့ သုံးစွဲမှု အသေးစိတ်အတွက် ChatGPT အလုပ် နဲ့ Codex ကို ကြည့်ပါ။
