ChatGPT není bez předsudků a stereotypů, proto by uživatelé i pedagogové měli jeho obsah pečlivě kontrolovat. Je důležité kriticky posuzovat jakýkoli obsah, který by mohl předsudky nebo stereotypy učit či posilovat. Omezování zkreslení je pro nás trvalou oblastí výzkumu a uvítáme zpětnou vazbu, jak se zlepšit.
Zde je několik bodů, které je dobré mít na paměti:
Model je vychýlený směrem k západním pohledům a nejlépe funguje v angličtině. Některé kroky k prevenci škodlivého obsahu byly testovány pouze v angličtině.
Dialogická povaha modelu může během interakce posilovat uživatelovy předsudky. Model může například souhlasit se silným názorem uživatele na politickou otázku, a tím posilovat jeho přesvědčení.
Tato zkreslení mohou studentům uškodit, pokud se nezohlední při používání modelu pro zpětnou vazbu studentům. Může například nespravedlivě hodnotit studenty, kteří se učí angličtinu jako druhý jazyk.
Pedagogové mohou studentům pomoci porozumět zkreslení a kriticky přemýšlet tím, že ukážou, jak určité otázky vedou ke zkresleným odpovědím. Učitel by například mohl požádat studenta, aby analyzoval esej vytvořenou pomocí ChatGPT, která upřednostňuje určitý názor. Toto cvičení může studentům pomoci rozpoznat zkreslení napříč různými platformami a stát se zodpovědnými digitálními občany.