O ChatGPT não está livre de vieses e estereótipos, por isso usuários e educadores devem revisar cuidadosamente seu conteúdo. É importante avaliar criticamente qualquer conteúdo que possa ensinar ou reforçar vieses ou estereótipos. A mitigação de vieses é uma área de pesquisa contínua para nós, e agradecemos feedback sobre como melhorar.
Aqui estão alguns pontos a ter em mente:
O modelo tende a favorecer visões ocidentais e tem melhor desempenho em inglês. Algumas medidas para prevenir conteúdo prejudicial foram testadas apenas em inglês.
A natureza dialógica do modelo pode reforçar os vieses de um usuário ao longo da interação. Por exemplo, o modelo pode concordar com a opinião forte de um usuário sobre uma questão política, reforçando sua crença.
Esses vieses podem prejudicar estudantes se não forem considerados ao usar o modelo para dar feedback aos alunos. Por exemplo, ele pode julgar injustamente estudantes que aprendem inglês como segunda língua.
Educadores podem ajudar estudantes a entender o viés e pensar criticamente mostrando como certas perguntas levam a respostas tendenciosas. Por exemplo, um professor pode pedir a um estudante que analise uma redação gerada pelo ChatGPT que favoreça determinado ponto de vista. Este exercício pode ajudar estudantes a reconhecer vieses em diferentes plataformas e a serem cidadãos digitais responsáveis.