ChatGPT is niet vrij van vooroordelen en stereotypen, dus gebruikers en docenten moeten de inhoud zorgvuldig beoordelen. Het is belangrijk om elke inhoud die vooroordelen of stereotypen kan aanleren of versterken kritisch te beoordelen. Het tegengaan van bias is voor ons een doorlopend onderzoeksgebied, en we verwelkomen feedback over hoe we kunnen verbeteren.
Hier zijn enkele punten om in gedachten te houden:
Het model is gericht op westerse opvattingen en presteert het best in het Engels. Sommige stappen om schadelijke inhoud te voorkomen zijn alleen in het Engels getest.
De dialogische aard van het model kan de vooroordelen van een gebruiker tijdens de interactie versterken. Zo kan het model instemmen met de sterke mening van een gebruiker over een politiek onderwerp, waardoor diens overtuiging wordt versterkt.
Deze vooroordelen kunnen studenten schaden als er geen rekening mee wordt gehouden wanneer het model wordt gebruikt voor feedback aan studenten. Het kan bijvoorbeeld studenten die Engels als tweede taal leren onterecht beoordelen.
Docenten kunnen studenten helpen vooringenomenheid te begrijpen en kritisch na te denken door te laten zien hoe bepaalde vragen tot bevooroordeelde antwoorden leiden. Een docent kan een student bijvoorbeeld vragen een door ChatGPT gegenereerd essay te analyseren dat een bepaald standpunt bevoordeelt. Deze oefening kan studenten helpen vooringenomenheid op verschillende platforms te herkennen en verantwoordelijke digitale burgers te zijn.