ChatGPT nie je bez zaujatosti a stereotypov, preto by používatelia a pedagógovia mali jeho obsah starostlivo kontrolovať. Je dôležité kriticky posudzovať akýkoľvek obsah, ktorý by mohol učiť alebo posilňovať zaujatosť či stereotypy. Zmierňovanie zaujatosti je pre nás neustálou oblasťou výskumu a vítame spätnú väzbu o tom, ako sa zlepšiť.
Tu je niekoľko bodov, na ktoré treba pamätať:
Model je zaujatý smerom k západným názorom a najlepšie funguje v angličtine. Niektoré kroky na zabránenie škodlivému obsahu boli testované iba v angličtine.
Dialógová povaha modelu môže v priebehu interakcie posilňovať zaujatosť používateľa. Napríklad model môže súhlasiť s vyhraneným názorom používateľa na politickú otázku, čím posilní jeho presvedčenie.
Tieto zaujatosti môžu študentom uškodiť, ak sa nezohľadnia pri používaní modelu na spätnú väzbu pre študentov. Napríklad môže nespravodlivo posudzovať študentov, ktorí sa učia angličtinu ako druhý jazyk.
Pedagógovia môžu študentom pomôcť pochopiť zaujatosť a kriticky myslieť tým, že ukážu, ako určité otázky vedú k zaujatým odpovediam. Učiteľ by napríklad mohol študenta požiadať, aby analyzoval esej vygenerovanú službou ChatGPT, ktorá uprednostňuje určitý názor. Toto cvičenie môže študentom pomôcť rozpoznať zaujatosť na rôznych platformách a byť zodpovednými digitálnymi občanmi.