Logit_bias معلمة اختيارية تعدّل احتمال ظهور رموز محددة في مخرجات يولدها النموذج.
تقبل هذه المعلمة كائن JSON يربط الرموز بقيمة تحيز مرتبطة من -100 (والتي ستمنع في معظم الحالات توليد ذلك الرمز) إلى 100 (اختيار حصري للرمز يجعله أكثر احتمالًا للتوليد). ستغيّر القيم المتوسطة مثل -1 و1 احتمال اختيار رمز بدرجة أقل.
بما أن المعلمة تستقبل رموزًا لا نصًا، فستحتاج إلى استخدام أداة تقسيم النص إلى رموز لتحويل النص إلى معرّفات رموز. لنستعرض بضعة أمثلة.
المثال 1: إزالة «time»
إذا استدعينا نقطة نهاية Completions باستخدام المطالبة «Once upon a»، فمن المرجح جدًا أن يبدأ الإكمال بـ « time».
تُقسَّم الكلمة «time» إلى المعرّف 2435، وتُقسَّم الكلمة « time» (التي تحتوي على مسافة في بدايتها) إلى المعرّف 640. يمكننا تمريرهما عبر logit_bias بالقيمة -100 لمنعهما من الظهور في الإكمال، كما يلي:
completion = client.chat.completions.create(
model="gpt-3.5-turbo",
messages=[{"role": "system", "content": "You finish user's sentences."},
"role": "user", "content": "Once upon a"} ]
logit_bias={2435:-100, 640:-100}
)الآن، تؤدي المطالبة «Once upon a» إلى إنشاء الإكمال «midnight dreary, while I pondered, weak and weary.»
لاحظ أن كلمة «وقت» لا تظهر مطلقًا، لأننا حظرنا فعليًا ذلك الرمز باستخدام logit_bias.
المثال 2: توجيه النتائج باستخدام قيم مستهدفة لانحياز اللوغيت
لنستعرض مثالًا آخر باستخدام مطالبة لإنشاء الوصفات.
تقترح وصفات كثيرة استخدام القدور، لكن لنفترض أنه ليس لدينا قدر. سنرغب في منع إنشاء كلمة «قدر» ضمن الإكمال. تُحوَّل كلمة «قدر» إلى الرمز 1787، لذا يمكننا منعها من الظهور في النص المُنشأ بضبط logit_bias كما يلي.
logit_bias={1787:-100}الآن، قد يتضمن الإكمال الكلمة «saucepan» بدلًا من ذلك. رائع!
المثال 3: زيادة احتمال ظهور كلمة
لنفترض أننا نريد زيادة احتمال ظهور كلمة معينة.
على سبيل المثال، قد ندير موقعًا يقدم وصفات يمكن إعدادها باستخدام الميكروويف، ولذلك نريد التأكد من ظهور كلمة «ميكروويف» في الوصفة. تُحوَّل كلمة «ميكروويف» إلى الرمز ذي المعرّف 27000. ويمكننا زيادة احتمال ظهور هذا الرمز بتعيين قيمة موجبة لـ logit_bias، كما يلي:
logit_bias={27000:5}الآن، من المرجح أن يتضمن الإكمال كلمة «ميكروويف».
ضبطنا logit_bias على 5، إذ وجدنا أن ضبط logit_bias على 1 لا يؤدي غالبًا إلى ظهور كلمة «ميكروويف» في الإكمال، بينما تؤدي قيم logit_bias الأعلى، مثل 10، إلى ظهور كلمة « ميكروويف» في الإكمال أكثر من اللازم.