Logit_bias သည် မော်ဒယ်မှ ထုတ်ပေးထားသော အထွက်တွင် သတ်မှတ်ထားသော တိုကင်များ ပေါ်လာနိုင်ခြေကို ပြုပြင်ပြောင်းလဲပေးသည့် ရွေးချယ်နိုင်သော ပါရာမီတာတစ်ခု ဖြစ်သည်။
ဤပါရာမီတာသည် တိုကင်များကို ဆက်စပ် bias တန်ဖိုးတစ်ခုနှင့် ချိတ်ဆက်ပေးသော JSON object တစ်ခုကို လက်ခံသည်။ တန်ဖိုးအကွာအဝေးမှာ -100 (ကိစ္စအများစုတွင် ထိုတိုကင်ကို ထုတ်ပေးခြင်းမှ ပိတ်ဆို့မည်) မှ 100 (ထိုတိုကင်ကို သီးသန့်ရွေးချယ်စေပြီး ထုတ်ပေးနိုင်ခြေ ပိုများစေသည်) အထိ ဖြစ်သည်။ -1 နှင့် 1 ကဲ့သို့ အလယ်အလတ်တန်ဖိုးများသည် တိုကင်တစ်ခု ရွေးချယ်ခံရနိုင်ခြေကို အနည်းငယ်သာ ပြောင်းလဲစေမည်။
ပါရာမီတာသည် စာသားမဟုတ်ဘဲ တိုကင်များကို လက်ခံသောကြောင့်၊ စာသားကို တိုကင် ID များသို့ ပြောင်းရန် tokenizer tool ကို အသုံးပြုလိုပါမည်။ ဥပမာအချို့ကို လေ့လာကြည့်ကြရအောင်။
ဥပမာ ၁: “time” ကို ဖယ်ရှားခြင်း
“Once upon a,” ဟူသော တုံ့ပြန်ညွှန်ကြားချက်ဖြင့် Completions အဆုံးမှတ်ကို ခေါ်ဆိုပါက၊ ဖြည့်စွက်ထုတ်ပေးစာသားသည် “ time.” ဖြင့် စတင်ရန် အလွန်ဖြစ်နိုင်ခြေများသည်။
“time” ဟူသော စကားလုံးသည် ID 2435 သို့ တိုကင်လုပ်ပြီး “ time” ဟူသော စကားလုံး (အစတွင် စပေ့စ်တစ်ခုပါရှိသည်) သည် ID 640 သို့ တိုကင်လုပ်သည်။ ထို့ကြောင့် ၎င်းတို့ကို ဖြည့်စွက်ထုတ်ပေးစာသားတွင် မပေါ်စေရန် တားမြစ်ရန် -100 ဖြင့် logit_bias မှတစ်ဆင့် ထည့်သွင်းနိုင်သည်၊ ဤသို့ဖြစ်သည်-
completion = client.chat.completions.create(
model="gpt-3.5-turbo",
messages=[{"role": "system", "content": "အသုံးပြုသူ၏ စာကြောင်းများကို သင် အဆုံးသတ်ပေးသည်။"},
"role": "user", "content": "Once upon a"} ]
logit_bias={2435:-100, 640:-100}
)ယခုအခါ တုံ့ပြန်ညွှန်ကြားချက် “Once upon a” က “midnight dreary, while I pondered, weak and weary.” ဟူသော ဖြည့်စွက်စာသားကို ထုတ်ပေးသည်။
“အချိန်” ဟူသော စကားလုံးကို မည်သည့်နေရာတွင်မျှ မတွေ့ရပါ။ အကြောင်းမှာ logit_bias ကို အသုံးပြုပြီး ထိုတိုကင်ကို ထိရောက်စွာ ပိတ်ပင်ထားသောကြောင့် ဖြစ်သည်။
ဥပမာ ၂− သတ်မှတ်ထားသော logit bias တန်ဖိုးများဖြင့် လမ်းညွှန်ခြင်း
ဟင်းချက်နည်း ဖန်တီးပေးသည့် တုံ့ပြန်ညွှန်ကြားချက်ကို အသုံးပြုပြီး နောက်ထပ်ဥပမာတစ်ခုကို လေ့လာကြည့်ကြစို့။
ဟင်းချက်နည်းအများအပြားတွင် အိုးအသုံးပြုရန် အကြံပြုသော်လည်း ကျွန်ုပ်တို့တွင် အိုးမရှိဟု ယူဆကြည့်ပါ။ ကျွန်ုပ်တို့၏ ဖြည့်စွက်စာသားတွင် အိုးဟူသော စကားလုံး မပါလာအောင် ဖယ်ရှားလိုမည်။ 'အိုး' ကို တိုကင်အဖြစ် ပြောင်းလဲသည့်အခါ 1787 ရရှိသောကြောင့် အောက်ပါအတိုင်း logit_bias ကို သတ်မှတ်ပြီး ထုတ်ပေးမည့်စာသားမှ ၎င်းကို ဖယ်ရှားနိုင်သည်။
logit_bias={1787:-100}ယခု ကျွန်ုပ်တို့၏ ဖြည့်စွက်ထုတ်ပေးစာသားတွင် အစား “saucepan” ဟူသော စကားလုံး ပါဝင်နိုင်သည်။ ပြီးပြည့်စုံပါပြီ။
ဥပမာ ၃− စကားလုံးတစ်လုံး ပါလာနိုင်ခြေကို မြှင့်တင်ခြင်း
စကားလုံးတစ်လုံး ပါလာနိုင်ခြေကို မြှင့်တင်လိုသည်ဟု ယူဆကြည့်ပါ။
ဥပမာ၊ မိုက်ခရိုဝေ့ဖ်ဖြင့် ချက်ပြုတ်နိုင်သော ဟင်းချက်နည်းများကို ပေးသည့် ဝဘ်ဆိုက်တစ်ခု လုပ်ဆောင်နေသောကြောင့် ဟင်းချက်နည်းတွင် “မိုက်ခရိုဝေ့ဖ်” ဟူသော စကားလုံး မဖြစ်မနေ ပါစေလိုသည်ဟု ယူဆကြည့်ပါ။ “မိုက်ခရိုဝေ့ဖ်” ကို တိုကင်အဖြစ် ပြောင်းလဲသည့်အခါ ID 27000 ရရှိသည်။ အောက်ပါအတိုင်း အပေါင်းတန်ဖိုးရှိသော logit_bias ကို သတ်မှတ်ခြင်းဖြင့် ဤတိုကင် ပါလာနိုင်ခြေကို မြှင့်တင်နိုင်သည်။
logit_bias={27000:5}ယခု ကျွန်ုပ်တို့၏ ဖြည့်စွက်စာသားတွင် 'မိုက်ခရိုဝေ့ဖ်' ဟူသော စကားလုံး ပါဝင်လာနိုင်ခြေ ပိုများသွားပြီ။
logit_bias ကို 1 ဟု သတ်မှတ်သောအခါ ဖြည့်စွက်စာသားတွင် “မိုက်ခရိုဝေ့ဖ်” ဟူသော စကားလုံး မကြာခဏ မပါလာဘဲ၊ 10 ကဲ့သို့ ပိုမြင့်သော logit_bias တန်ဖိုးများကို အသုံးပြုပါက “ မိုက်ခရိုဝေ့ဖ်” ဟူသော စကားလုံး မကြာခဏလွန်းစွာ ပါလာသည်ကို တွေ့ရသောကြောင့် logit_bias ကို 5 ဟု သတ်မှတ်ထားသည်။