Logit_bias ਇੱਕ ਵਿਕਲਪਿਕ ਪੈਰਾਮੀਟਰ ਹੈ ਜੋ ਮਾਡਲ ਦੁਆਰਾ ਤਿਆਰ ਆਉਟਪੁੱਟ ਵਿੱਚ ਨਿਰਧਾਰਤ ਟੋਕਨਾਂ ਦੇ ਆਉਣ ਦੀ ਸੰਭਾਵਨਾ ਨੂੰ ਬਦਲਦਾ ਹੈ.
ਇਹ ਪੈਰਾਮੀਟਰ ਇੱਕ JSON ਆਬਜੈਕਟ ਸਵੀਕਾਰ ਕਰਦਾ ਹੈ ਜੋ ਟੋਕਨਾਂ ਨੂੰ -100 (ਜੋ ਜ਼ਿਆਦਾਤਰ ਮਾਮਲਿਆਂ ਵਿੱਚ ਉਸ ਟੋਕਨ ਨੂੰ ਜਨਰੇਟ ਹੋਣ ਤੋਂ ਰੋਕੇਗਾ) ਤੋਂ 100 (ਟੋਕਨ ਦੀ ਖਾਸ ਚੋਣ, ਜੋ ਇਸ ਦੇ ਜਨਰੇਟ ਹੋਣ ਦੀ ਸੰਭਾਵਨਾ ਵਧਾਉਂਦੀ ਹੈ) ਤੱਕ ਦੇ ਸੰਬੰਧਿਤ ਬਾਇਅਸ ਮੁੱਲ ਨਾਲ ਮੈਪ ਕਰਦਾ ਹੈ. -1 ਅਤੇ 1 ਵਰਗੇ ਮੱਧਮ ਮੁੱਲ ਟੋਕਨ ਚੁਣੇ ਜਾਣ ਦੀ ਸੰਭਾਵਨਾ ਨੂੰ ਘੱਟ ਪੱਧਰ ਤੱਕ ਬਦਲਣਗੇ.
ਕਿਉਂਕਿ ਇਹ ਪੈਰਾਮੀਟਰ ਟੈਕਸਟ ਨਹੀਂ, ਟੋਕਨ ਲੈਂਦਾ ਹੈ, ਇਸ ਲਈ ਤੁਸੀਂ ਟੈਕਸਟ ਨੂੰ ਟੋਕਨ IDs ਵਿੱਚ ਬਦਲਣ ਲਈ ਟੋਕਨਾਈਜ਼ਰ ਟੂਲ ਵਰਤਣਾ ਚਾਹੋਗੇ. ਆਓ ਕੁਝ ਉਦਾਹਰਨਾਂ ਵੇਖੀਏ.
ਉਦਾਹਰਨ 1: 'time' ਹਟਾਓ
ਜੇ ਅਸੀਂ “Once upon a,” ਪ੍ਰੌੰਪਟ ਨਾਲ Completions ਐਂਡਪੌਇੰਟ ਨੂੰ ਕਾਲ ਕਰੀਏ, ਤਾਂ ਕੰਪਲੀਸ਼ਨ ਦੀ ਸ਼ੁਰੂਆਤ ਬਹੁਤ ਸੰਭਾਵਨਾ ਨਾਲ “ time.” ਨਾਲ ਹੋਵੇਗੀ.
ਸ਼ਬਦ “time” ID 2435 ਵਜੋਂ ਟੋਕਨਾਈਜ਼ ਹੁੰਦਾ ਹੈ ਅਤੇ ਸ਼ਬਦ “ time” (ਜਿਸ ਦੇ ਸ਼ੁਰੂ ਵਿੱਚ ਇੱਕ ਸਪੇਸ ਹੈ) ID 640 ਵਜੋਂ ਟੋਕਨਾਈਜ਼ ਹੁੰਦਾ ਹੈ. ਅਸੀਂ ਇਨ੍ਹਾਂ ਨੂੰ -100 ਨਾਲ logit_bias ਰਾਹੀਂ ਪਾਸ ਕਰ ਸਕਦੇ ਹਾਂ ਤਾਂ ਜੋ ਇਹ ਕੰਪਲੀਸ਼ਨ ਵਿੱਚ ਨਾ ਆ ਸਕਣ, ਇਸ ਤਰ੍ਹਾਂ:
completion = client.chat.completions.create(
model="gpt-3.5-turbo",
messages=[{"role": "system", "content": "You finish user's sentences."},
"role": "user", "content": "Once upon a"} ]
logit_bias={2435:-100, 640:-100}
)ਹੁਣ, ਪ੍ਰੌੰਪਟ “ਇੱਕ ਵਾਰ ਦੀ ਗੱਲ ਹੈ” ਦੇ ਜਵਾਬ ਵਿੱਚ “ਉਦਾਸ ਅੱਧੀ ਰਾਤ ਵੇਲੇ, ਜਦੋਂ ਮੈਂ ਕਮਜ਼ੋਰ ਤੇ ਥੱਕਿਆ ਹੋਇਆ ਸੋਚਾਂ ਵਿੱਚ ਡੁੱਬਿਆ ਸੀ।” ਪਾਠ ਤਿਆਰ ਹੁੰਦਾ ਹੈ.
ਧਿਆਨ ਦਿਓ ਕਿ “ਸਮਾਂ” ਸ਼ਬਦ ਕਿਤੇ ਵੀ ਨਹੀਂ ਹੈ, ਕਿਉਂਕਿ ਅਸੀਂ logit_bias ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਉਸ ਟੋਕਨ ਨੂੰ ਪ੍ਰਭਾਵੀ ਢੰਗ ਨਾਲ ਰੋਕ ਦਿੱਤਾ ਹੈ.
ਉਦਾਹਰਨ 2: ਨਿਸ਼ਾਨਾਬੱਧ ਲੌਜਿਟ ਪੱਖਪਾਤ ਮੁੱਲਾਂ ਨਾਲ ਦਿਸ਼ਾ ਦੇਣਾ
ਆਓ, ਪਕਵਾਨ-ਵਿਧੀ ਬਣਾਉਣ ਵਾਲੇ ਪ੍ਰੌੰਪਟ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਇੱਕ ਹੋਰ ਉਦਾਹਰਨ ਦੇਖੀਏ.
ਬਹੁਤ ਸਾਰੀਆਂ ਪਕਵਾਨ-ਵਿਧੀਆਂ ਵਿੱਚ ਪਤੀਲਾ ਵਰਤਣ ਦੀ ਸਲਾਹ ਦਿੱਤੀ ਜਾਂਦੀ ਹੈ, ਪਰ ਮੰਨ ਲਓ ਕਿ ਸਾਡੇ ਕੋਲ ਪਤੀਲਾ ਨਹੀਂ ਹੈ. ਅਸੀਂ ਚਾਹਾਂਗੇ ਕਿ ਤਿਆਰ ਹੋਣ ਵਾਲੇ ਪਾਠ ਵਿੱਚੋਂ ਪਤੀਲਾ ਸ਼ਬਦ ਹਟਾ ਦਿੱਤਾ ਜਾਵੇ. “ਪਤੀਲਾ” ਦਾ ਟੋਕਨ ਨੰਬਰ 1787 ਹੈ, ਇਸ ਲਈ ਹੇਠਾਂ ਦਿੱਤੇ ਅਨੁਸਾਰ logit_bias ਸੈੱਟ ਕਰਕੇ ਅਸੀਂ ਇਸ ਨੂੰ ਤਿਆਰ ਹੋਣ ਵਾਲੇ ਪਾਠ ਵਿੱਚੋਂ ਹਟਾ ਸਕਦੇ ਹਾਂ.
logit_bias={1787:-100}ਹੁਣ, ਸਾਡੀ ਕੰਪਲੀਸ਼ਨ ਵਿੱਚ ਇਸ ਦੀ ਬਜਾਏ ਸ਼ਬਦ “saucepan” ਸ਼ਾਮਲ ਹੋ ਸਕਦਾ ਹੈ. ਬਹੁਤ ਵਧੀਆ.
ਉਦਾਹਰਨ 3: ਕਿਸੇ ਸ਼ਬਦ ਦੇ ਆਉਣ ਦੀ ਸੰਭਾਵਨਾ ਵਧਾਉਣਾ
ਮੰਨ ਲਓ ਕਿ ਅਸੀਂ ਕਿਸੇ ਸ਼ਬਦ ਦੇ ਆਉਣ ਦੀ ਸੰਭਾਵਨਾ ਵਧਾਉਣਾ ਚਾਹੁੰਦੇ ਹਾਂ.
ਮਿਸਾਲ ਵਜੋਂ, ਹੋ ਸਕਦਾ ਹੈ ਕਿ ਅਸੀਂ ਅਜਿਹੀ ਵੈੱਬਸਾਈਟ ਚਲਾ ਰਹੇ ਹੋਈਏ ਜੋ ਮਾਈਕ੍ਰੋਵੇਵ ਵਿੱਚ ਬਣ ਸਕਣ ਵਾਲੇ ਪਕਵਾਨਾਂ ਦੀਆਂ ਵਿਧੀਆਂ ਦਿੰਦੀ ਹੈ, ਇਸ ਲਈ ਅਸੀਂ ਯਕੀਨੀ ਬਣਾਉਣਾ ਚਾਹੁੰਦੇ ਹਾਂ ਕਿ ਵਿਧੀ ਵਿੱਚ “ਮਾਈਕ੍ਰੋਵੇਵ” ਸ਼ਬਦ ਆਵੇ. “ਮਾਈਕ੍ਰੋਵੇਵ” ਨੂੰ ਟੋਕਨ ਵਿੱਚ ਬਦਲਣ 'ਤੇ ਉਸ ਦੀ ਆਈਡੀ 27000 ਬਣਦੀ ਹੈ. ਅਸੀਂ ਧਨਾਤਮਕ logit_bias ਸੈੱਟ ਕਰਕੇ ਇਸ ਟੋਕਨ ਦੇ ਆਉਣ ਦੀ ਸੰਭਾਵਨਾ ਇਸ ਤਰ੍ਹਾਂ ਵਧਾ ਸਕਦੇ ਹਾਂ:
logit_bias={27000:5}ਹੁਣ, ਸਾਡੇ ਤਿਆਰ ਹੋਏ ਪਾਠ ਵਿੱਚ “ਮਾਈਕ੍ਰੋਵੇਵ” ਸ਼ਬਦ ਸ਼ਾਮਲ ਹੋਣ ਦੀ ਸੰਭਾਵਨਾ ਵੱਧ ਹੈ.
ਅਸੀਂ logit_bias ਨੂੰ 5 'ਤੇ ਸੈੱਟ ਕੀਤਾ, ਕਿਉਂਕਿ ਅਸੀਂ ਦੇਖਿਆ ਕਿ logit_bias ਨੂੰ 1 'ਤੇ ਸੈੱਟ ਕਰਨ ਨਾਲ ਤਿਆਰ ਹੋਏ ਪਾਠ ਵਿੱਚ ਅਕਸਰ “ਮਾਈਕ੍ਰੋਵੇਵ” ਸ਼ਬਦ ਨਹੀਂ ਆਉਂਦਾ ਸੀ, ਜਦਕਿ logit_bias ਦੇ 10 ਵਰਗੇ ਵੱਧ ਮੁੱਲਾਂ ਕਾਰਨ ਇਸ ਵਿੱਚ “ ਮਾਈਕ੍ਰੋਵੇਵ” ਸ਼ਬਦ ਬਹੁਤ ਜ਼ਿਆਦਾ ਵਾਰ ਆਉਂਦਾ ਸੀ.