Logit_bias သည် မော်ဒယ်မှ ထုတ်ပေးထားသော အထွက်တွင် သတ်မှတ်ထားသော တိုကင်များ ပေါ်လာနိုင်ခြေကို ပြုပြင်ပြောင်းလဲပေးသည့် ရွေးချယ်နိုင်သော ပါရာမီတာတစ်ခု ဖြစ်သည်။
ဤပါရာမီတာသည် တိုကင်များကို ဆက်စပ် bias တန်ဖိုးတစ်ခုနှင့် ချိတ်ဆက်ပေးသော JSON object တစ်ခုကို လက်ခံသည်။ တန်ဖိုးအကွာအဝေးမှာ -100 (ကိစ္စအများစုတွင် ထိုတိုကင်ကို ထုတ်ပေးခြင်းမှ ပိတ်ဆို့မည်) မှ 100 (ထိုတိုကင်ကို သီးသန့်ရွေးချယ်စေပြီး ထုတ်ပေးနိုင်ခြေ ပိုများစေသည်) အထိ ဖြစ်သည်။ -1 နှင့် 1 ကဲ့သို့ အလယ်အလတ်တန်ဖိုးများသည် တိုကင်တစ်ခု ရွေးချယ်ခံရနိုင်ခြေကို အနည်းငယ်သာ ပြောင်းလဲစေမည်။
ပါရာမီတာသည် စာသားမဟုတ်ဘဲ တိုကင်များကို လက်ခံသောကြောင့်၊ စာသားကို တိုကင် ID များသို့ ပြောင်းရန် tokenizer tool ကို အသုံးပြုလိုပါမည်။ ဥပမာအချို့ကို လေ့လာကြည့်ကြရအောင်။
ဥပမာ ၁: “time” ကို ဖယ်ရှားခြင်း
“Once upon a,” ဟူသော တုံ့ပြန်ညွှန်ကြားချက်ဖြင့် Completions အဆုံးမှတ်ကို ခေါ်ဆိုပါက၊ ဖြည့်စွက်ထုတ်ပေးစာသားသည် “ time.” ဖြင့် စတင်ရန် အလွန်ဖြစ်နိုင်ခြေများသည်။
“time” ဟူသော စကားလုံးသည် ID 2435 သို့ တိုကင်လုပ်ပြီး “ time” ဟူသော စကားလုံး (အစတွင် စပေ့စ်တစ်ခုပါရှိသည်) သည် ID 640 သို့ တိုကင်လုပ်သည်။ ထို့ကြောင့် ၎င်းတို့ကို ဖြည့်စွက်ထုတ်ပေးစာသားတွင် မပေါ်စေရန် တားမြစ်ရန် -100 ဖြင့် logit_bias မှတစ်ဆင့် ထည့်သွင်းနိုင်သည်၊ ဤသို့ဖြစ်သည်-
completion = client.chat.completions.create(
model="gpt-3.5-turbo",
messages=[{"role": "system", "content": "အသုံးပြုသူ၏ စာကြောင်းများကို သင် အဆုံးသတ်ပေးသည်။"},
"role": "user", "content": "Once upon a"} ]
logit_bias={2435:-100, 640:-100}
)ယခု “Once upon a” ဟူသော တုံ့ပြန်ညွှန်ကြားချက်သည် “midnight dreary, while I pondered, weak and weary.” ဟူသော ဖြည့်စွက်ထုတ်ပေးစာသားကို ထုတ်ပေးသည်။
“time” ဟူသော စကားလုံးကို မည်သည့်နေရာတွင်မျှ မတွေ့ရကြောင်း သတိပြုပါ၊ အကြောင်းမှာ ကျွန်ုပ်တို့သည် ထိုတိုကင်ကို logit_bias ကို အသုံးပြု၍ ထိရောက်စွာ တားမြစ်ထားသောကြောင့် ဖြစ်သည်။
ဥပမာ ၂: ပစ်မှတ်ထားသော logit bias တန်ဖိုးများဖြင့် ဦးတည်ချက်ပေးခြင်း
ချက်ပြုတ်နည်း ဖန်တီးပေးသည့် တုံ့ပြန်ညွှန်ကြားချက်ကို အသုံးပြု၍ နောက်ထပ်ဥပမာတစ်ခုကို လေ့လာကြည့်ကြရအောင်။
ချက်ပြုတ်နည်းများစွာသည် pots အသုံးပြုရန် အကြံပြုကြသော်လည်း၊ ကျွန်ုပ်တို့တွင် pot မရှိဟု ဆိုပါစို့။ ကျွန်ုပ်တို့၏ ဖြည့်စွက်ထုတ်ပေးစာသား၏ အစိတ်အပိုင်းအဖြစ် pot ဟူသော စကားလုံး ထုတ်ပေးခြင်းကို ဖယ်ရှားလိုပါမည်။ “Pot” သည် 1787 သို့ တိုကင်လုပ်သောကြောင့်၊ ကျွန်ုပ်တို့၏ logit_bias ကို အောက်ပါအတိုင်း သတ်မှတ်ခြင်းဖြင့် ၎င်းကို ကျွန်ုပ်တို့၏ ထုတ်ပေးမှုမှ ဖယ်ရှားနိုင်သည်။
logit_bias={1787:-100}ယခု ကျွန်ုပ်တို့၏ ဖြည့်စွက်ထုတ်ပေးစာသားတွင် အစား “saucepan” ဟူသော စကားလုံး ပါဝင်နိုင်သည်။ ပြီးပြည့်စုံပါပြီ။
ဥပမာ ၃: စကားလုံးတစ်လုံး ပေါ်လာနိုင်ခြေကို တိုးမြှင့်ခြင်း
စကားလုံးတစ်လုံး ပေါ်လာနိုင်ခြေကို တိုးမြှင့်လိုသည်ဟု ဆိုပါစို့။
ဥပမာအားဖြင့် ကျွန်ုပ်တို့သည် microwave ဖြင့် ပြုလုပ်နိုင်သော ချက်ပြုတ်နည်းများကို ပေးသည့် ဝဘ်ဆိုက်တစ်ခုကို လည်ပတ်နေသည်ဆိုပါစို့။ ထို့ကြောင့် ချက်ပြုတ်နည်းတွင် “microwave” ဟူသော စကားလုံး ပါဝင်နေကြောင်း သေချာစေလိုသည်။ Microwave သည် ID 27000 သို့ တိုကင်လုပ်သည်။ အပြုသဘောဆောင်သော logit_bias ကို သတ်မှတ်ခြင်းဖြင့် ဤတိုကင် ပေါ်လာနိုင်ခြေကို တိုးမြှင့်နိုင်သည်၊ ဤသို့ဖြစ်သည်-
logit_bias={27000:5}ယခု ကျွန်ုပ်တို့၏ ဖြည့်စွက်ထုတ်ပေးစာသားတွင် “microwave” ဟူသော စကားလုံး ပါဝင်ရန် ပိုမိုဖြစ်နိုင်ခြေများသည်။
ကျွန်ုပ်တို့သည် logit_bias ကို 5 အဖြစ် သတ်မှတ်ခဲ့သည်။ အကြောင်းမှာ logit_bias ကို 1 အဖြစ် သတ်မှတ်ခြင်းသည် ဖြည့်စွက်ထုတ်ပေးစာသားတွင် “microwave” ဟူသော စကားလုံး ပေါ်လာစေရန် မကြာခဏ မလုံလောက်ကြောင်း တွေ့ခဲ့ရပြီး၊ 10 ကဲ့သို့ မြင့်မားသော logit_bias တန်ဖိုးများသည် “ microwave” ဟူသော စကားလုံးကို ဖြည့်စွက်ထုတ်ပေးစာသားတွင် အလွန်မကြာခဏ ပေါ်လာစေသောကြောင့် ဖြစ်သည်။