ChatGPT nuk është i lirë nga paragjykimet dhe stereotipet, prandaj përdoruesit dhe mësimdhënësit duhet ta shqyrtojnë me kujdes përmbajtjen e tij. Është e rëndësishme të vlerësohet në mënyrë kritike çdo përmbajtje që mund të mësojë ose të përforcojë paragjykime apo stereotipe. Zbutja e paragjykimeve është një fushë kërkimi në vazhdim për ne dhe mirëpresim komentet se si të përmirësohemi.
Ja disa pika që duhen mbajtur parasysh:
Modeli anon drejt pikëpamjeve perëndimore dhe funksionon më mirë në anglisht. Disa hapa për të parandaluar përmbajtjen e dëmshme janë testuar vetëm në anglisht.
Natyra dialoguese e modelit mund të përforcojë paragjykimet e një përdoruesi gjatë ndërveprimit. Për shembull, modeli mund të pajtohet me mendimin e fortë të një përdoruesi për një çështje politike, duke ia përforcuar bindjen.
Këto paragjykime mund t’i dëmtojnë nxënësit nëse nuk merren parasysh kur modeli përdoret për komente ndaj nxënësve. Për shembull, ai mund t’i gjykojë padrejtësisht nxënësit që mësojnë anglishten si gjuhë të dytë.
Mësimdhënësit mund t’i ndihmojnë nxënësit të kuptojnë paragjykimet dhe të mendojnë në mënyrë kritike, duke treguar se si pyetje të caktuara çojnë në përgjigje të njëanshme. Për shembull, një mësues mund t’i kërkojë një nxënësi të analizojë një ese të krijuar nga ChatGPT që favorizon një këndvështrim të caktuar. Ky ushtrim mund t’i ndihmojë nxënësit të njohin paragjykimet në platforma të ndryshme dhe të jenë qytetarë digjitalë të përgjegjshëm.