ChatGPT nije lišen pristranosti i stereotipa, stoga bi korisnici i nastavnici trebali pažljivo pregledati njegov sadržaj. Važno je kritički procijeniti svaki sadržaj koji bi mogao poučavati ili učvršćivati pristranosti ili stereotipe. Ublažavanje pristranosti za nas je trajno područje istraživanja i pozdravljamo povratne informacije o tome kako se poboljšati.
Evo nekoliko stvari koje treba imati na umu:
Model je sklon zapadnjačkim pogledima i najbolje radi na engleskom jeziku. Neki koraci za sprječavanje štetnog sadržaja testirani su samo na engleskom jeziku.
Dijaloška priroda modela može tijekom interakcije učvrstiti korisnikove pristranosti. Na primjer, model se može složiti s korisnikovim čvrstim mišljenjem o političkom pitanju, čime učvršćuje njegovo uvjerenje.
Te pristranosti mogu naštetiti učenicima ako se ne uzmu u obzir pri upotrebi modela za povratne informacije učenicima. Primjerice, može nepravedno ocijeniti učenike koji uče engleski kao drugi jezik.
Nastavnici mogu pomoći učenicima da razumiju pristranost i kritički razmišljaju pokazujući kako određena pitanja dovode do pristranih odgovora. Na primjer, nastavnik bi mogao zatražiti od učenika da analizira esej koji je generirao ChatGPT, a koji pogoduje određenom stajalištu. Ova vježba može pomoći učenicima da prepoznaju pristranost na različitim platformama i budu odgovorni digitalni građani.