O ChatGPT não está isento de enviesamentos e estereótipos, pelo que os utilizadores e educadores devem rever cuidadosamente o seu conteúdo. É importante avaliar criticamente qualquer conteúdo que possa ensinar ou reforçar enviesamentos ou estereótipos. A mitigação de enviesamentos é uma área de investigação contínua para nós, e agradecemos feedback sobre como melhorar.
Aqui ficam alguns pontos a ter em conta:
O modelo está inclinado para perspetivas ocidentais e tem o melhor desempenho em inglês. Alguns passos para evitar conteúdo nocivo só foram testados em inglês.
A natureza dialogante do modelo pode reforçar os enviesamentos de um utilizador ao longo da interação. Por exemplo, o modelo pode concordar com a opinião forte de um utilizador sobre uma questão política, reforçando a sua convicção.
Estes enviesamentos podem prejudicar os alunos se não forem tidos em conta ao usar o modelo para dar feedback aos alunos. Por exemplo, pode avaliar injustamente alunos que aprendem inglês como segunda língua.
Os educadores podem ajudar os alunos a compreender o enviesamento e a pensar criticamente, mostrando como certas perguntas conduzem a respostas enviesadas. Por exemplo, um professor pode pedir a um aluno que analise um ensaio gerado pelo ChatGPT que favoreça um determinado ponto de vista. Este exercício pode ajudar os alunos a reconhecer o enviesamento em diferentes plataformas e a ser cidadãos digitais responsáveis.