လုပ်ဆောင်ပုံ

သုံးစွဲသူများသည် ရှိပြီးသား service_tier ပါရာမီတာနှင့် service_tier = "fast" ရွေးချယ်မှုကို အသုံးပြု၍ တောင်းဆိုချက်တစ်ခုချင်းအလိုက် အမြန်မုဒ်သို့ အသွားအလာ ပို့နိုင်သည်။

အမြန်မုဒ်ဖြင့် ဆောင်ရွက်သော တိုကင်များကို တိုကင်တစ်ခုချင်းအလိုက် ကောက်ခံမည်ဖြစ်ပြီး စံလုပ်ဆောင်မှုနှုန်းထားထက် ပိုမြင့်သော စျေးနှုန်း သတ်မှတ်ထားသည်။

တောင်းဆိုချက်အဆင့်တွင် သတ်မှတ်နိုင်သည့်အပြင် Project settings > Default ဝန်ဆောင်မှုအဆင့်: Fast တွင် ပရောဂျက်တစ်ခု၏ မူလရွေးချယ်မှုကို အမြန်မုဒ်အဖြစ် သတ်မှတ်နိုင်သည်။ တောင်းဆိုချက်တစ်ခုချင်းအလိုက် မူလသတ်မှတ်ချက်ကို ပြောင်းလဲနိုင်ပါသေးသည်။ ပရောဂျက်ဆက်တင်များတွင် Fast ကို ရွေးချယ်ခြင်းသည် Priority ကို ရွေးချယ်ခြင်းနှင့် အတူတူဖြစ်သည်။

၎င်းသည် Scale အဆင့်နှင့် မည်သို့ အပြန်အလှန် သက်ရောက်ပါသလဲ။

Scale အဆင့်သည် အမြန်မုဒ်နှင့် သီးခြား ဆက်ရှိနေမည်။ အမြန်မုဒ်သို့ ပို့သော တောင်းဆိုချက်များအတွက် သီးခြားငွေတောင်းခံမည်ဖြစ်ပြီး သင်ဝယ်ယူထားသည့် Scale အဆင့် TPM အစုများတွင် ထည့်သွင်းရေတွက်မည်မဟုတ်ပါ။

ကျွန်ုပ်၏ Scale အဆင့် ပိုလျှံအသွားအလာကို အမြန်မုဒ်သို့ အလိုအလျောက် ပို့နိုင်ပါသလား။

မပို့နိုင်ပါ။ Scale အဆင့်သို့ ပို့သော အသွားအလာသည် အမြန်မုဒ်သို့ အလိုအလျောက် လွှဲပို့မည်မဟုတ်ပါ။

အမြန်မုဒ်အတွက် မည်သို့ ငွေတောင်းခံပါသလဲ။

အမြန်မုဒ်ဖြင့် ဆောင်ရွက်သော တိုကင်များကို တိုကင်တစ်ခုချင်းအလိုက် ကောက်ခံမည်ဖြစ်ပြီး စံလုပ်ဆောင်မှုနှုန်းထားထက် ပိုမြင့်သော စျေးနှုန်း သတ်မှတ်ထားသည်။

ကျွန်ုပ်၏ နှစ်စဉ်ကတိကဝတ်သည် သီးခြားလုပ်ဆောင်မှုမုဒ်တစ်ခုနှင့် ချိတ်ဆက်ထားပါသလား။

မချိတ်ဆက်ထားပါ။ လုပ်ဆောင်မှုမုဒ်အားလုံးကို သင်၏ နှစ်စဉ် Enterprise အသုံးစရိတ်ကတိကဝတ်တွင် ထည့်သွင်းရေတွက်သည်။

ကက်ရှ်သိမ်းထားသော ထည့်သွင်းတိုကင်များအတွက် လျှော့စျေး ရရှိသေးပါသလား။

ရရှိပါသည်။ ကက်ရှ်သိမ်းထားသော ထည့်သွင်းမှုများသည် စံလုပ်ဆောင်မှုနည်းတူ ၅၀ မှ ၇၅ ရာခိုင်နှုန်းအထိ လျှော့စျေး ရရှိသည်။

အမြန်မုဒ် အသုံးပြုမှုနှင့် အသုံးစရိတ်ကို မည်သို့ ကြည့်ရှုရမလဲ။

အမြန်မုဒ် (ယခင် Priority processing) ဖြင့် လုပ်ဆောင်ခဲ့သော တိုကင်များကို ကြည့်ရန် Usage dashboard သို့သွားပြီး Chat Completions သို့မဟုတ် Responses ကို ရွေးချယ်ကာ Group by Service Tier ကို ရွေးပါ။

အမြန်မုဒ် ကုန်ကျစရိတ်ကို ကြည့်ရန် Usage dashboard သို့သွားပြီး Group by Line Item ကို ရွေးပါ။

Usage dashboard တွင် priority သို့မဟုတ် fast ကို service_tier အဖြစ် အသုံးပြုသော တောင်းဆိုချက်များကို priority ဟုသာ ဆက်လက်ဖော်ပြမည်။ အနာဂတ် မော်ဒယ်များအတွက် ဤအချက်ကို အပ်ဒိတ်လုပ်မည်။

မော်ဒယ်များ

အမြန်မုဒ်ကို ရှည်လျားသော ကွန်တက်စ်၊ fine-tuned မော်ဒယ်များ၊ embeddings စသည်တို့အတွက် အသုံးပြုနိုင်ပါသလား။

လက်ရှိတွင် အသုံးမပြုနိုင်သေးပါ။ ကျွန်ုပ်တို့၏ နောက်ဆုံးပေါ် မော်ဒယ်များအပြင် အခြားထုတ်ကုန်များတွင်ပါ အမြန်မုဒ် ပံ့ပိုးသင့်မသင့်ကို အနာဂတ်တွင် သုံးသပ်မည်။

အခြားမိုဒယ်လတီများသည် အမြန်မုဒ်နှင့် မည်သို့ အလုပ်လုပ်ပါသလဲ။

အမြန်မုဒ်သည် Standard တွင် ရရှိနိုင်သော မာလ်တီမိုဒယ် စွမ်းဆောင်ရည်များအားလုံးကို ပံ့ပိုးသည်။ အထူးသဖြင့် ပုံများကို Priority processing အတွက် ထည့်သွင်းမှုများအဖြစ် အသုံးပြုနိုင်ပြီး တူညီသော မြန်ဆန်သည့် တုံ့ပြန်ချိန်ဖြင့် လုပ်ဆောင်ပေးသည်။

အနာဂတ် မော်ဒယ်များကို ပံ့ပိုးမည်လား။

GPT မော်ဒယ်အသစ်များတွင် အမြန်မုဒ်ကို ပံ့ပိုးရန် စီစဉ်ထားသော်လည်း မော်ဒယ်တိုင်းကို ပံ့ပိုးမည်ဟု အာမမခံပါ။

နှုန်းထားကန့်သတ်ချက်များ

နှုန်းထားကန့်သတ်ချက်များမှာ အဘယ်နည်း။

နှုန်းထားကန့်သတ်ချက်များအတွက် Priority processing သုံးစွဲမှုကို စံ API အသွားအလာနှင့် အတူတူ သတ်မှတ်သည်။

အသွားအလာတိုးနှုန်း ကန့်သတ်ချက်များမှာ အဘယ်နည်း။

သုံးစွဲသူအားလုံးအတွက် အမြဲတမ်း မြင့်မားသော စွမ်းဆောင်ရည်ကို ထိန်းသိမ်းပေးနိုင်ပြီး လိုအပ်သလို ပြောင်းလွယ်ပြင်လွယ်ရှိသော စျေးနှုန်းကိုလည်း ပံ့ပိုးနိုင်ရန် အမြန်မုဒ်တွင် အသွားအလာတိုးနှုန်း ကန့်သတ်ချက်များရှိသည်။ (က) အမြန်မုဒ်၏ စွမ်းဆောင်ရည် ကျဆင်းနေပြီး (ခ) သုံးစွဲသူတစ်ဦး၏ အသွားအလာ အလွန်လျင်မြန်စွာ တိုးနေပါက ရှားပါးသော အခြေအနေများတွင် တောင်းဆိုချက်အချို့ကို စံလုပ်ဆောင်မှုသို့ လျှော့ချပြောင်းလဲနိုင်သည်။

လက်ရှိ အမြန်မုဒ် အသွားအလာတိုးနှုန်း ကန့်သတ်ချက်ကို ကျွန်ုပ်တို့၏ အဓိကစာရွက်စာတမ်းတွင် ဤနေရာ၌ သတ်မှတ်ထားသည်။

သင့်အသွားအလာတိုးနှုန်း ကန့်သတ်ချက်အတွင်း ရှိစေရန် အကောင်းဆုံးလုပ်ဆောင်နည်းများ

မော်ဒယ်များ ပြောင်းလဲသည့်အခါ အသွားအလာကို တဖြည်းဖြည်း တိုးပါ။ ဥပမာ၊ သင့်အက်ပ်သည် ယခင် snapshot မှ အသစ်တစ်ခုသို့ ပြောင်းနေပါက အသွားအလာအားလုံးကို တစ်ပြိုင်နက် ပြောင်းမည့်အစား နာရီအနည်းငယ်အတွင်း တဖြည်းဖြည်း ပြောင်းရန် feature flag ကို အသုံးပြုပါ။

အမြန်မုဒ်တွင် ဒေတာအမြောက်အမြား လုပ်ဆောင်ခြင်း သို့မဟုတ် asynchronous အလုပ်များကို မလုပ်ဆောင်ပါနှင့်။ ဤအလုပ်များသည် အသွားအလာကို အလွန်လျင်မြန်စွာ တိုးစေနိုင်ပြီး အမြန်မုဒ်၏ ပိုမိုကောင်းမွန်သော စွမ်းဆောင်ရည်ကိုလည်း မကြာခဏ မလိုအပ်ပါ။

အသွားအလာတိုးနှုန်း ကန့်သတ်ချက်များနှင့် မကြာခဏ ကြုံတွေ့ရပါက Scale အဆင့် ခွဲတမ်းကို ဝယ်ယူရန် စဉ်းစားပါ။

အသွားအလာတိုးနှုန်း ကန့်သတ်ချက်များကို ကျွန်ုပ်၏ ပရောဂျက်များ သို့မဟုတ် အဖွဲ့အစည်းများအကြား မျှဝေထားပါသလား။

မျှဝေထားပါသည်။ သင့်အသွားအလာအားလုံးကို အသွားအလာတိုးနှုန်း ကန့်သတ်ချက်တစ်ခုတည်းတွင် ထည့်သွင်းရေတွက်သည်။

မူဝါဒများ

အမြန်မုဒ်သည် ရည်မှန်းထားသော တုံ့ပြန်ချိန်ကို မပြည့်မီပါက မည်သို့ ဖြစ်မည်နည်း။

မေးခွန်းများ သို့မဟုတ် စိုးရိမ်ချက်များရှိပါက သင့် AD ကို ဆက်သွယ်ပါ။ အမြန်မုဒ် SLA များကို Scale အဆင့် SLA များနှင့် အတူတူ သတ်မှတ်မည်ဖြစ်သည်။ သတ်မှတ်ထားသော အချိန်ကာလအတွင်း Enterprise သဘောတူညီချက်ရှိသည့် သုံးစွဲသူများအတွက် ထို SLA များကို မပြည့်မီပါက ဝန်ဆောင်မှုလျော်ကြေးများ ပေးမည်။

အမြန်မုဒ်သည် ဒေတာ သိမ်းဆည်းပြီး စီမံဆောင်ရွက်သည့်နေရာနှင့် တွဲဖက်အသုံးပြုနိုင်ပါသလား။

အသုံးပြုနိုင်ပါသည်။

အမြန်မုဒ်သည် ZDR နှင့် BAA တို့နှင့် တွဲဖက်အသုံးပြုနိုင်ပါသလား။

အသုံးပြုနိုင်ပါသည်။