O ChatGPT não está livre de vieses e estereótipos; portanto, usuários e educadores devem revisar cuidadosamente seu conteúdo. É importante avaliar criticamente qualquer conteúdo que possa ensinar ou reforçar vieses ou estereótipos. A mitigação de vieses é uma área de pesquisa contínua para nós, e agradecemos feedback sobre como melhorar.
Aqui estão alguns pontos a ter em mente:
O modelo é inclinado a visões ocidentais e tem melhor desempenho em inglês. Algumas medidas para evitar conteúdo prejudicial só foram testadas em inglês.
A natureza dialogada do modelo pode reforçar os vieses de um usuário ao longo da interação. Por exemplo, o modelo pode concordar com a opinião forte de um usuário sobre uma questão política, reforçando sua crença.
Esses vieses podem prejudicar estudantes se não forem considerados ao usar o modelo para feedback aos alunos. Por exemplo, ele pode avaliar injustamente estudantes que estão aprendendo inglês como segunda língua.
Educadores podem ajudar estudantes a entender o viés e a pensar criticamente mostrando como certas perguntas levam a respostas tendenciosas. Por exemplo, um(a) professor(a) poderia pedir a um(a) estudante que analise uma redação gerada pelo ChatGPT que favoreça um determinado ponto de vista. Esse exercício pode ajudar os estudantes a reconhecer viés em diferentes plataformas e a serem cidadãos digitais responsáveis.