ChatGPT není prostý předsudků a stereotypů, proto by uživatelé a pedagogové měli jeho obsah pečlivě kontrolovat. Je důležité kriticky posuzovat veškerý obsah, který by mohl učit nebo posilovat předsudky či stereotypy. Zmírňování předsudků je pro nás průběžnou oblastí výzkumu a uvítáme zpětnou vazbu, jak se zlepšit.
Zde je několik bodů, které je třeba mít na paměti:
Model je vychýlen směrem k západním názorům a nejlépe funguje v angličtině. Některé kroky k prevenci škodlivého obsahu byly testovány pouze v angličtině.
Dialogová povaha modelu může v průběhu interakce posilovat předsudky uživatele. Například model může souhlasit s vyhraněným názorem uživatele na politickou otázku, a tím posílit jeho přesvědčení.
Tyto předsudky mohou studentům škodit, pokud se na ně při používání modelu pro zpětnou vazbu studentům nebude brát ohled. Může například nespravedlivě hodnotit studenty, kteří se učí angličtinu jako druhý jazyk.
Pedagogové mohou studentům pomoci porozumět předsudkům a kriticky myslet tím, že ukážou, jak určité otázky vedou ke zkresleným odpovědím. Učitel by například mohl požádat studenta, aby analyzoval esej vygenerovanou ChatGPT, která upřednostňuje určitý pohled. Toto cvičení může studentům pomoci rozpoznávat předsudky na různých platformách a chovat se jako zodpovědní digitální občané.