O ChatGPT não está livre de enviesamentos e estereótipos, por isso os utilizadores e educadores devem rever cuidadosamente o seu conteúdo. É importante avaliar criticamente qualquer conteúdo que possa ensinar ou reforçar enviesamentos ou estereótipos. A mitigação de enviesamentos é uma área de investigação contínua para nós, e agradecemos feedback sobre como melhorar.
Eis alguns pontos a ter em conta:
O modelo tende a refletir perspetivas ocidentais e funciona melhor em inglês. Algumas medidas para prevenir conteúdo nocivo só foram testadas em inglês.
A natureza conversacional do modelo pode reforçar os enviesamentos de um utilizador ao longo da interação. Por exemplo, o modelo pode concordar com a opinião forte de um utilizador sobre uma questão política, reforçando a sua convicção.
Estes enviesamentos podem prejudicar os alunos se não forem tidos em conta ao usar o modelo para dar feedback aos estudantes. Por exemplo, pode avaliar injustamente alunos que estão a aprender inglês como segunda língua.
Os educadores podem ajudar os alunos a compreender os enviesamentos e a pensar criticamente, mostrando como certas perguntas levam a respostas enviesadas. Por exemplo, um professor poderia pedir a um aluno que analisasse um ensaio gerado pelo ChatGPT que favoreça determinado ponto de vista. Este exercício pode ajudar os alunos a reconhecer enviesamentos em diferentes plataformas e a serem cidadãos digitais responsáveis.