ChatGPT tidak bebas dari bias dan stereotip, jadi pengguna dan pendidik sebaiknya meninjau kontennya dengan saksama. Penting untuk menilai secara kritis konten apa pun yang dapat mengajarkan atau memperkuat bias atau stereotip. Upaya mitigasi bias adalah bidang penelitian yang terus berjalan bagi kami, dan kami menyambut masukan tentang cara meningkatkannya.
Berikut beberapa hal yang perlu diingat:
Model ini condong ke pandangan Barat dan bekerja paling baik dalam bahasa Inggris. Beberapa langkah untuk mencegah konten berbahaya hanya diuji dalam bahasa Inggris.
Sifat dialog model ini dapat memperkuat bias pengguna seiring berjalannya interaksi. Misalnya, model dapat menyetujui opini kuat pengguna tentang isu politik, sehingga memperkuat keyakinan mereka.
Bias ini dapat merugikan siswa jika tidak dipertimbangkan saat menggunakan model untuk umpan balik siswa. Misalnya, model dapat menilai secara tidak adil siswa yang belajar bahasa Inggris sebagai bahasa kedua.
Pendidik dapat membantu siswa memahami bias dan berpikir kritis dengan menunjukkan bagaimana pertanyaan tertentu menghasilkan respons yang bias. Misalnya, guru dapat meminta siswa menganalisis esai yang dihasilkan ChatGPT yang memihak sudut pandang tertentu. Latihan ini dapat membantu siswa mengenali bias di berbagai platform dan menjadi warga digital yang bertanggung jawab.