ChatGPT er ikke fri for skjevheter og stereotypier, så brukere og undervisere bør gå nøye gjennom innholdet. Det er viktig å vurdere kritisk alt innhold som kan lære bort eller forsterke skjevheter eller stereotypier. Reduksjon av skjevhet er et pågående forskningsområde for oss, og vi tar gjerne imot tilbakemeldinger om hvordan vi kan bli bedre.
Her er noen punkter det er verdt å huske på:
Modellen heller mot vestlige synspunkter og fungerer best på engelsk. Noen tiltak for å forhindre skadelig innhold er bare testet på engelsk.
Modellens dialogpreg kan forsterke en brukers skjevheter i løpet av interaksjonen. For eksempel kan modellen si seg enig i en brukers sterke mening om et politisk spørsmål og dermed forsterke brukerens oppfatning.
Disse skjevhetene kan skade elever hvis de ikke tas i betraktning når modellen brukes til tilbakemeldinger til elever. Den kan for eksempel vurdere elever som lærer engelsk som andrespråk, på en urettferdig måte.
Undervisere kan hjelpe elever med å forstå skjevhet og tenke kritisk ved å vise hvordan visse spørsmål fører til skjeve svar. For eksempel kan en lærer be en elev analysere et essay generert av ChatGPT som favoriserer et bestemt synspunkt. Denne øvelsen kan hjelpe elever med å gjenkjenne skjevhet på tvers av ulike plattformer og være ansvarlige digitale borgere.