ChatGPT nu este lipsit de părtiniri și stereotipuri, așa că utilizatorii și profesorii ar trebui să-i verifice cu atenție conținutul. Este important să evaluați critic orice conținut care ar putea transmite sau consolida părtiniri ori stereotipuri. Reducerea părtinirii este pentru noi un domeniu de cercetare în curs, iar feedbackul despre cum putem îmbunătăți este binevenit.
Iată câteva aspecte de reținut:
Modelul este orientat spre perspective occidentale și funcționează cel mai bine în engleză. Unele măsuri pentru prevenirea conținutului dăunător au fost testate doar în engleză.
Natura dialogică a modelului poate consolida părtinirile unui utilizator pe parcursul interacțiunii. De exemplu, modelul poate fi de acord cu opinia fermă a unui utilizator despre o problemă politică, consolidându-i convingerea.
Aceste părtiniri îi pot afecta pe elevi dacă nu sunt luate în considerare când modelul este folosit pentru feedback oferit elevilor. De pildă, îi poate evalua incorect pe elevii care învață engleza ca a doua limbă.
Profesorii îi pot ajuta pe elevi să înțeleagă părtinirea și să gândească critic, arătând cum anumite întrebări duc la răspunsuri părtinitoare. De exemplu, un profesor i-ar putea cere unui elev să analizeze un eseu generat de ChatGPT care favorizează un anumit punct de vedere. Acest exercițiu îi poate ajuta pe elevi să recunoască părtinirea pe diferite platforme și să fie cetățeni digitali responsabili.