Awaké dhéwé percaya marang pangembangan lan penerapan sing tanggung jawab lan iteratif minangka sarana kanggo nggayuh kecerdhasan umum tiruan sing aman. Awaké dhéwé nindakake akèh pangujian lan mitigasi keamanan lan panyelarasan sadurungé ngluncuraké model marang publik, lan awaké dhéwé uga nduwé sistem otomatis lan manungsa kanggo mbantu ndeteksi konten bermasalah sing muncul ing layanan kanggo individu kayata ChatGPT lan GPTs. Awaké dhéwé njlentrehaké sawetara upaya kasebut ing ngisor iki.

ChatGPT lan ImageGen

Awaké dhéwé nggunakake piranti otomatis, kayata versi internal saka /moderations API, kanggo ndeteksi konten (prompt, completion, unggahan) sing bisa mbebayani utawa nglanggar Kabijakan Panggunaan kita. Yen awaké dhéwé ndeteksi konten bermasalah, biasané awaké dhéwé bakal ngélingaké manawa konten sampeyan bisa nglanggar kabijakan panggunaan kita utawa nyegah model supaya ora nanggapi prompt sampeyan. Awaké dhéwé uga bisa nyegah obrolan sing ngemot prompt utawa completion bermasalah supaya ora dibagèkaké. Ing kahanan sing winates banget, awaké dhéwé uga bisa mblokir akun sampeyan amarga tumindak sing parah banget.

Awaké dhéwé uga nampa laporan saka wong bab konten bermasalah ing ChatGPT. Awaké dhéwé nggunakake gabungan sistem otomatis lan tim ahli sing wis dilatih kanggo mriksa laporan kasebut.

• ChatGPT: Yen ana wong nuduhaké obrolan sing miturut sampeyan ngemot konten bermasalah, sampeyan uga bisa nglaporaké marang kita.

Kanggo rincian luwih lengkap bab cara nglaporaké konten langsung ing ChatGPT, delengen artikel iki.

GPTs

Awaké dhéwé uga nggunakake piranti otomatis kayata /moderation API kanggo mriksa apa sawijining GPT duwé potensi bermasalah. Yen awaké dhéwé ndeteksi konten bermasalah sing gegandhengan karo GPT, awaké dhéwé bakal njupuk tindakan, kayata nyegah supaya ora disebaraké. Panggawe bisa nyunting konfigurasi GPT utawa API kanggo mbusak konten bermasalah, utawa bisa ngajokaké bandhing marang keputusan liwat alur ing produk. Ing kahanan sing winates banget, awaké dhéwé uga bisa mblokir akun panggawe amarga tumindak sing parah banget.

Awaké dhéwé uga nampa laporan saka wong bab GPT sing bermasalah. Yen sampeyan weruh GPT sing miturut sampeyan nglanggar kabijakan panggunaan kita utawa nuduhaké konten bermasalah, sampeyan uga bisa nglaporaké marang kita. Awaké dhéwé nggunakake gabungan sistem otomatis lan tim ahli sing wis dilatih kanggo mriksa laporan kasebut.