ChatGPT ei ole vaba kallutatustest ega stereotüüpidest, seega peaksid kasutajad ja haridustöötajad selle sisu hoolikalt üle vaatama. Oluline on kriitiliselt hinnata igasugust sisu, mis võiks õpetada või tugevdada kallutatusi või stereotüüpe. Kallutatuse vähendamine on meie jaoks jätkuv uurimisvaldkond ja ootame tagasisidet selle kohta, kuidas saaksime paremaks muutuda.
Siin on mõned punktid, mida meeles pidada:
Mudel kaldub lääne vaadete poole ja toimib kõige paremini inglise keeles. Mõningaid kahjuliku sisu ennetamise samme on testitud ainult inglise keeles.
Mudeli dialoogipõhine olemus võib suhtluse käigus kasutaja kallutatusi tugevdada. Näiteks võib mudel nõustuda kasutaja tugeva arvamusega poliitilises küsimuses, tugevdades nii tema veendumust.
Need kallutatused võivad õpilasi kahjustada, kui neid ei arvestata mudeli kasutamisel õpilastele tagasiside andmiseks. Näiteks võib see ebaõiglaselt hinnata õpilasi, kes õpivad inglise keelt teise keelena.
Haridustöötajad saavad aidata õpilastel mõista kallutatust ja kriitiliselt mõelda, näidates, kuidas teatud küsimused viivad kallutatud vastusteni. Näiteks võiks õpetaja paluda õpilasel analüüsida ChatGPT loodud esseed, mis soosib teatud seisukohta. See harjutus võib aidata õpilastel märgata kallutatust eri platvormidel ja olla vastutustundlikud digikodanikud.