Is paraiméadar roghnach é Logit_bias a athraíonn an dóchúlacht go mbeidh téacschomharthaí sonraithe le feiceáil in aschur a ghineann samhail.
Glacann an paraiméadar seo le réad JSON a mhapálann téacschomharthaí chuig luach claonta gaolmhar ó -100 (a chuirfidh bac, i bhformhór na gcásanna, ar an téacschomhartha sin a ghiniúint) go 100 (roghnú eisiach an téacschomhartha, rud a fhágann gur dóichí go nginfear é). Athróidh luachanna measartha cosúil le -1 agus 1 an dóchúlacht go roghnófar téacschomhartha go pointe níos lú.
Ós rud é go nglacann an paraiméadar le téacschomharthaí, ní le téacs, beidh tú ag iarraidh uirlis téacschomharthaithe a úsáid chun téacs a thiontú ina aitheantais téacschomharthaí. Rachaimid trí chúpla sampla.
Sampla 1: Bain ‘time’
Má ghlaoimid ar dheireadhphointe Completions leis an leid “Once upon a,” is an-dócha go dtosóidh an comhlánú le “ time.”
Déantar an focal “time” a théacschomharthú go dtí ID 2435 agus déantar an focal “ time” (a bhfuil spás ag an tús aige) a théacschomharthú go dtí ID 640. Is féidir linn iad seo a chur trí logit_bias le -100 chun cosc a chur orthu bheith sa chomhlánú, mar seo:
completion = client.chat.completions.create(
model="gpt-3.5-turbo",
messages=[{"role": "system", "content": "Críochnaíonn tú abairtí an úsáideora."},
"role": "user", "content": "Once upon a"} ]
logit_bias={2435:-100, 640:-100}
)Anois, gineann an leid “Once upon a” an comhlánú “midnight dreary, while I pondered, weak and weary.”
Tabhair faoi deara nach bhfuil an focal “time” le fáil in aon áit, mar tá cosc curtha againn go héifeachtach ar an téacschomhartha sin le logit_bias.
Sampla 2: Tabhair treoir le luachanna spriocdhírithe claonta logit
Féachaimis ar shampla eile, agus leid do ghineadóir oidis á húsáid againn.
Molann go leor oidis potaí a úsáid, ach cuir i gcás nach bhfuil pota againn. Ba mhaith linn cosc a chur ar an bhfocal “pot” a ghiniúint mar chuid dár gcomhlánú. Déantar téacschomharthú ar “Pot” mar 1787, mar sin is féidir linn é a bhaint ón nginiúint trí logit_bias a shocrú mar seo a leanas.
logit_bias={1787:-100}Anois, d’fhéadfadh an focal “saucepan” a bheith inár gcomhlánú ina ionad. Foirfe!
Sampla 3: Méadaigh an seans go mbeidh focal le feiceáil
Cuir i gcás gur mian linn cur leis an seans go mbeidh focal le feiceáil.
Mar shampla, b’fhéidir go bhfuil suíomh againn a chuireann oidis ar fáil is féidir a dhéanamh in oigheann micreathonnach, agus gur mian linn a chinntiú go mbeidh an focal “microwave” san oideas. Déantar téacschomharthú ar Microwave mar ID 27000. Is féidir linn cur leis an seans go mbeidh an téacschomhartha seo le feiceáil trí logit_bias dearfach a shocrú, mar seo:
logit_bias={27000:5}Anois, is mó an seans go mbeidh an focal “microwave” inár gcomhlánú.
Shocraíomar logit_bias ag 5, mar fuaireamar amach nár leor logit_bias a shocrú ag 1 go minic chun an focal “microwave” a chur sa chomhlánú, agus gur rómhinic a bhí an focal “ microwave” sa chomhlánú le luachanna logit_bias níos airde, amhail 10.