ChatGPT är inte fritt från bias och stereotyper, så användare och lärare bör noggrant granska dess innehåll. Det är viktigt att kritiskt bedöma allt innehåll som kan lära ut eller förstärka bias eller stereotyper. Att minska bias är ett pågående forskningsområde för oss, och vi välkomnar återkoppling om hur vi kan bli bättre.
Här är några punkter att ha i åtanke:
Modellen har en slagsida åt västerländska perspektiv och fungerar bäst på engelska. Vissa åtgärder för att förhindra skadligt innehåll har endast testats på engelska.
Modellens dialogkaraktär kan förstärka en användares bias under interaktionens gång. Modellen kan till exempel hålla med om en användares starka åsikt i en politisk fråga och därmed förstärka personens uppfattning.
Dessa bias kan skada elever om de inte beaktas när modellen används för återkoppling till elever. Den kan till exempel göra en orättvis bedömning av elever som lär sig engelska som andraspråk.
Lärare kan hjälpa elever att förstå bias och tänka kritiskt genom att visa hur vissa frågor leder till partiska svar. En lärare kan till exempel be en elev analysera en uppsats genererad av ChatGPT som gynnar en viss ståndpunkt. Den här övningen kan hjälpa elever att känna igen bias på olika plattformar och vara ansvarsfulla digitala medborgare.