Naniniwala kami sa responsable at pauli-ulit na development at deployment bilang paraan para makamit ang ligtas na artificial general intelligence. Nagsasagawa kami ng malaking dami ng testing at mitigation para sa kaligtasan at alignment bago kailanman maglunsad ng modelo sa publiko, at mayroon din kaming mga automated at pantao na system para tumulong na matukoy ang problemadong content na lumalabas sa aming mga serbisyo para sa mga indibidwal gaya ng ChatGPT at GPTs. Inilalarawan namin sa ibaba ang ilan sa mga pagsisikap na iyon.
ChatGPT at ImageGen
Gumagamit kami ng mga automated na tool, gaya ng internal na bersyon ng aming /moderations API, para matukoy ang content (mga prompt, completion, upload) na maaaring makasama o lumabag sa aming Mga Patakaran sa Paggamit. Kung may matukoy kaming problemadong content, karaniwan naming babalaan ka na maaaring lumabag ang iyong content sa aming mga patakaran sa paggamit o haharangin namin ang modelo sa pagtugon sa iyong prompt. Maaari rin naming pigilan na maibahagi ang chat na may problemadong prompt o completion. Sa napakalimitadong mga sitwasyon, maaari rin naming i-ban ang iyong account dahil sa malubhang asal.
Tumatanggap din kami ng mga ulat mula sa tao tungkol sa problemadong content sa ChatGPT. Gumagamit kami ng kombinasyon ng mga automated na system at sinanay na team ng mga eksperto para suriin ang mga ulat na ito.
ChatGPT: Kung may nagbahagi ng chat na sa tingin mo ay may problemadong content, maaari mo rin itong iulat sa amin.
Para sa higit pang detalye kung paano direktang mag-ulat ng content sa ChatGPT, tingnan ang artikulong ito.
Mga GPT
Gumagamit din kami ng mga automated na tool gaya ng aming /moderation API para makita kung posibleng problemado ang isang GPT. Kung may matukoy kaming problemadong content na nauugnay sa GPT, kikilos kami, gaya ng pagpigil na maipamahagi ito. Maaaring i-edit ng builder ang configuration ng GPT o API para alisin ang problemadong content, o maaari niyang iapela ang desisyon sa pamamagitan ng flow sa produkto. Sa napakalimitadong mga sitwasyon, maaari rin naming i-ban ang account ng builder dahil sa malubhang asal.
Tumatanggap din kami ng mga ulat mula sa tao tungkol sa mga problemadong GPT. Kung makakita ka ng GPT na sa tingin mo ay lumalabag sa aming mga patakaran sa paggamit o nagpapakita ng problemadong content, maaari mo rin itong iulat sa amin. Gumagamit kami ng kombinasyon ng mga automated na system at sinanay na team ng mga eksperto para suriin ang mga ulat na ito.