ChatGPT ni brez pristranskosti in stereotipov, zato naj uporabniki in izobraževalci skrbno pregledajo njegovo vsebino. Pomembno je kritično oceniti vsako vsebino, ki bi lahko učila ali utrjevala pristranskosti ali stereotipe. Zmanjševanje pristranskosti je za nas stalno področje raziskav in veseli bomo povratnih informacij o tem, kako se izboljšati.
Tukaj je nekaj točk, ki jih velja upoštevati:
Model je nagnjen k zahodnim pogledom in najbolje deluje v angleščini. Nekateri ukrepi za preprečevanje škodljive vsebine so bili preizkušeni samo v angleščini.
Dialoška narava modela lahko med interakcijo utrjuje uporabnikove pristranskosti. Na primer, model se lahko strinja z močnim mnenjem uporabnika o političnem vprašanju in tako utrjuje njegovo prepričanje.
Te pristranskosti lahko škodujejo študentom, če jih pri uporabi modela za povratne informacije študentom ne upoštevamo. Na primer, lahko nepravično presoja študente, ki se učijo angleščino kot drugi jezik.
Izobraževalci lahko študentom pomagajo razumeti pristranskost in kritično razmišljati tako, da pokažejo, kako določena vprašanja vodijo do pristranskih odgovorov. Na primer, učitelj bi lahko študenta prosil, naj analizira esej, ki ga je ustvaril ChatGPT in ki daje prednost določenemu stališču. Ta vaja lahko študentom pomaga prepoznati pristranskost na različnih platformah in biti odgovorni digitalni državljani.