ChatGPT nu este lipsit de prejudecăți și stereotipuri, așa că utilizatorii și educatorii ar trebui să îi revizuiască atent conținutul. Este important să evaluăm critic orice conținut care ar putea preda sau consolida prejudecăți ori stereotipuri. Atenuarea prejudecăților este pentru noi un domeniu de cercetare continuă și primim cu interes feedback despre cum să ne îmbunătățim.
Iată câteva aspecte de avut în vedere:
Modelul este înclinat către perspective occidentale și funcționează cel mai bine în engleză. Unii pași pentru prevenirea conținutului dăunător au fost testați doar în engleză.
Natura dialogală a modelului poate consolida prejudecățile unui utilizator pe parcursul interacțiunii. De exemplu, modelul poate fi de acord cu opinia fermă a unui utilizator cu privire la o problemă politică, consolidându-i convingerea.
Aceste prejudecăți pot dăuna elevilor dacă nu sunt luate în considerare atunci când modelul este folosit pentru feedbackul oferit elevilor. De pildă, poate judeca nedrept elevii care învață engleza ca a doua limbă.
Educatorii îi pot ajuta pe elevi să înțeleagă prejudecățile și să gândească critic, arătând cum anumite întrebări duc la răspunsuri părtinitoare. De exemplu, un profesor i-ar putea cere unui elev să analizeze un eseu generat de ChatGPT care favorizează un anumit punct de vedere. Acest exercițiu îi poate ajuta pe elevi să recunoască prejudecățile pe diferite platforme și să fie cetățeni digitali responsabili.