ChatGPT không tránh khỏi các thiên kiến và khuôn mẫu, vì vậy người dùng và nhà giáo dục nên xem xét kỹ nội dung của ChatGPT. Điều quan trọng là phải đánh giá một cách phản biện mọi nội dung có thể dạy hoặc củng cố các thiên kiến hay khuôn mẫu. Giảm thiểu thiên kiến là một lĩnh vực nghiên cứu đang tiếp diễn của chúng tôi, và chúng tôi hoan nghênh phản hồi về cách cải thiện.
Dưới đây là một số điểm cần ghi nhớ:
Mô hình có xu hướng nghiêng về các quan điểm phương Tây và hoạt động tốt nhất bằng tiếng Anh. Một số bước nhằm ngăn chặn nội dung có hại mới chỉ được thử nghiệm bằng tiếng Anh.
Bản chất đối thoại của mô hình có thể củng cố thiên kiến của người dùng trong suốt quá trình tương tác. Ví dụ, mô hình có thể đồng ý với quan điểm mạnh mẽ của người dùng về một vấn đề chính trị, qua đó củng cố niềm tin của họ.
Những thiên kiến này có thể gây hại cho học sinh nếu không được cân nhắc khi dùng mô hình để đưa ra phản hồi cho học sinh. Chẳng hạn, mô hình có thể đánh giá không công bằng những học sinh học tiếng Anh như ngôn ngữ thứ hai.
Nhà giáo dục có thể giúp học sinh hiểu về thiên kiến và tư duy phản biện bằng cách cho thấy một số câu hỏi nhất định dẫn đến các phản hồi thiên lệch như thế nào. Ví dụ, giáo viên có thể yêu cầu học sinh phân tích một bài luận do ChatGPT tạo ra có thiên hướng ủng hộ một quan điểm nhất định. Bài tập này có thể giúp học sinh nhận ra thiên kiến trên các nền tảng khác nhau và trở thành công dân số có trách nhiệm.