ChatGPT er ekki laust við hlutdrægni og staðalímyndir og því ættu notendur og kennarar að fara vandlega yfir efni þess. Mikilvægt er að meta með gagnrýnum hætti allt efni sem gæti kennt eða styrkt hlutdrægni eða staðalímyndir. Að draga úr hlutdrægni er áframhaldandi rannsóknarsvið hjá okkur og við fögnum ábendingum um hvernig megi bæta það.
Hér eru nokkur atriði sem gott er að hafa í huga:
Líkanið hallast að vestrænum sjónarmiðum og virkar best á ensku. Sumar ráðstafanir til að koma í veg fyrir skaðlegt efni hafa aðeins verið prófaðar á ensku.
Samtalseðli líkansins getur styrkt hlutdrægni notanda meðan á samskiptum stendur. Til dæmis getur líkanið tekið undir sterka skoðun notanda á pólitísku máli og þannig styrkt trú hans á henni.
Þessi hlutdrægni getur skaðað nemendur ef ekki er tekið tillit til hennar þegar líkanið er notað til að veita nemendum endurgjöf. Til dæmis getur það dæmt nemendur sem læra ensku sem annað tungumál á ósanngjarnan hátt.
Kennarar geta hjálpað nemendum að skilja hlutdrægni og hugsa gagnrýnið með því að sýna hvernig ákveðnar spurningar leiða til hlutdrægra svara. Til dæmis gæti kennari beðið nemanda að greina ritgerð sem ChatGPT hefur búið til og sem styður ákveðið sjónarmið. Þessi æfing getur hjálpað nemendum að þekkja hlutdrægni á ólíkum vettvöngum og vera ábyrgir stafrænir borgarar.