ChatGPT er ikke fri for skjevheter og stereotypier, så brukere og lærere bør nøye gjennomgå innholdet. Det er viktig å kritisk vurdere alt innhold som kan lære bort eller forsterke skjevheter eller stereotypier. Å redusere bias er et løpende forskningsområde for oss, og vi ønsker gjerne tilbakemeldinger om hvordan vi kan bli bedre.
Her er noen punkter å ha i mente:
Modellen er skjev mot vestlige perspektiver og fungerer best på engelsk. Noen tiltak for å forhindre skadelig innhold er bare testet på engelsk.
Modellens dialogpreg kan forsterke en brukers skjevheter gjennom samhandlingen. For eksempel kan modellen være enig i en brukers sterke mening om en politisk sak, og dermed forsterke oppfatningen deres.
Disse skjevhetene kan skade elever hvis de ikke tas i betraktning når modellen brukes til tilbakemeldinger til elever. Den kan for eksempel urettferdig vurdere elever som lærer engelsk som andrespråk.
Lærere kan hjelpe elever med å forstå skjevhet og tenke kritisk ved å vise hvordan visse spørsmål fører til skjeve svar. En lærer kan for eksempel be en elev analysere et ChatGPT-generert essay som favoriserer et bestemt synspunkt. Denne øvelsen kan hjelpe elever med å gjenkjenne skjevhet på tvers av ulike plattformer og bli ansvarlige digitale borgere.