ChatGPT no està lliure de biaixos ni estereotips, per la qual cosa els usuaris i els educadors n’han de revisar el contingut amb cura. És important avaluar críticament qualsevol contingut que pugui ensenyar o reforçar biaixos o estereotips. La mitigació dels biaixos és una àrea de recerca en curs per a nosaltres, i agraïm els comentaris sobre com millorar.
Aquests són alguns punts que cal tenir en compte:
El model està esbiaixat cap a les perspectives occidentals i funciona millor en anglès. Algunes mesures per prevenir contingut perjudicial només s’han provat en anglès.
La naturalesa conversacional del model pot reforçar els biaixos d’un usuari al llarg de la interacció. Per exemple, el model pot estar d’acord amb l’opinió ferma d’un usuari sobre una qüestió política, reforçant-ne la creença.
Aquests biaixos poden perjudicar els estudiants si no es tenen en compte quan s’utilitza el model per donar-los retroacció. Per exemple, pot jutjar injustament estudiants que aprenen anglès com a segona llengua.
Els educadors poden ajudar els estudiants a entendre els biaixos i a pensar críticament mostrant com certes preguntes donen lloc a respostes esbiaixades. Per exemple, un professor podria demanar a un estudiant que analitzés un assaig generat per ChatGPT que afavoreix un cert punt de vista. Aquest exercici pot ajudar els estudiants a reconèixer els biaixos en diferents plataformes i a ser ciutadans digitals responsables.