ChatGPT nije bez pristrasnosti i stereotipa, pa bi korisnici i nastavnici trebali pažljivo pregledati njegov sadržaj. Važno je kritički procijeniti svaki sadržaj koji bi mogao podučavati ili učvršćivati pristrasnosti ili stereotipe. Ublažavanje pristrasnosti je za nas stalno područje istraživanja i dobrodošle su nam povratne informacije o tome kako se možemo poboljšati.
Evo nekoliko stvari koje treba imati na umu:
Model je sklon zapadnjačkim stavovima i najbolje radi na engleskom. Neki koraci za sprečavanje štetnog sadržaja testirani su samo na engleskom.
Dijaloška priroda modela može pojačati korisnikove pristrasnosti tokom interakcije. Naprimjer, model se može složiti s čvrstim mišljenjem korisnika o političkom pitanju, čime jača njegovo uvjerenje.
Ove pristrasnosti mogu naštetiti učenicima ako se ne uzmu u obzir pri korištenju modela za povratne informacije učenicima. Naprimjer, može nepravedno ocjenjivati učenike koji uče engleski kao drugi jezik.
Nastavnici mogu pomoći učenicima da razumiju pristrasnost i kritički razmišljaju pokazujući kako određena pitanja dovode do pristrasnih odgovora. Naprimjer, nastavnik bi mogao zamoliti učenika da analizira esej koji je generisao ChatGPT i koji favorizira određeno gledište. Ova vježba može pomoći učenicima da prepoznaju pristrasnost na različitim platformama i budu odgovorni digitalni građani.