ChatGPT không hoàn toàn tránh khỏi thiên kiến và định kiến, vì vậy người dùng và nhà giáo dục nên xem xét kỹ nội dung của nó. Điều quan trọng là phải đánh giá phê phán mọi nội dung có thể dạy hoặc củng cố thiên kiến hay định kiến. Việc giảm thiểu thiên kiến là một lĩnh vực nghiên cứu đang tiếp diễn đối với chúng tôi, và chúng tôi hoan nghênh phản hồi về cách cải thiện.
Dưới đây là một số điểm cần lưu ý:
Mô hình này thiên về các quan điểm phương Tây và hoạt động tốt nhất bằng tiếng Anh. Một số bước nhằm ngăn chặn nội dung có hại mới chỉ được thử nghiệm bằng tiếng Anh.
Bản chất đối thoại của mô hình có thể củng cố thiên kiến của người dùng trong suốt quá trình tương tác. Ví dụ, mô hình có thể đồng tình với quan điểm mạnh mẽ của người dùng về một vấn đề chính trị, từ đó củng cố niềm tin của họ.
Những thiên kiến này có thể gây hại cho học sinh nếu không được cân nhắc khi dùng mô hình để phản hồi cho học sinh. Chẳng hạn, mô hình có thể đánh giá không công bằng những học sinh học tiếng Anh như ngôn ngữ thứ hai.
Nhà giáo dục có thể giúp học sinh hiểu về thiên kiến và tư duy phản biện bằng cách chỉ ra cách một số câu hỏi nhất định dẫn đến các phản hồi thiên lệch. Ví dụ, giáo viên có thể yêu cầu học sinh phân tích một bài luận do ChatGPT tạo ra mà thiên về một quan điểm nào đó. Bài tập này có thể giúp học sinh nhận ra thiên kiến trên các nền tảng khác nhau và trở thành công dân số có trách nhiệm.