Бид аюулгүй Ерөнхий хиймэл оюун ухаанд хүрэх арга зам нь хариуцлагатай, давтамжтай хөгжүүлэлт ба нэвтрүүлэлт гэж үздэг. Бид загварыг олон нийтэд нэвтрүүлэхээсээ өмнө аюулгүй байдал болон нийцлийн ихээхэн хэмжээний туршилт ба сааруулах арга хэмжээ авдаг бөгөөд ChatGPT болон GPT-үүд зэрэг хувь хүмүүст зориулсан манай үйлчилгээн дээр гарч ирэх асуудалтай контентыг илрүүлэхэд туслах автоматжуулсан болон хүний оролцоотой системүүд мөн ажилладаг. Бид тэдгээр хүчин чармайлтын заримыг доор тоймлон харууллаа.
ChatGPT ба ImageGen
Бид хор хөнөөл учруулж болзошгүй эсвэл Ашиглалтын бодлогыг зөрчсөн контентыг (өгөгдөл, үүсгэсэн хариу, байршуулсан файл) илрүүлэхийн тулд /moderations API-ийн дотоод хувилбар зэрэг автоматжуулсан хэрэгсэл ашигладаг. Асуудалтай контент илэрвэл бид ихэвчлэн таны контент Ашиглалтын бодлогыг зөрчиж болзошгүйг анхааруулах эсвэл таны өгөгдөлд хариу өгөхийг загварт хориглоно. Мөн асуудалтай өгөгдөл эсвэл хариу агуулсан чатыг хуваалцах боломжийг хааж болно. Онц ноцтой зөрчил гаргасан цөөн тохиолдолд бид таны бүртгэлийг хааж болно.
Мөн ChatGPT дээрх асуудалтай контентын талаар хүмүүсээс ирүүлсэн мэдээллийг хүлээн авдаг. Бид эдгээр мэдээллийг автоматжуулсан систем болон мэргэшсэн шинжээчдийн багийг хослуулан шалгадаг.
ChatGPT: Хэн нэгний хуваалцсан чат асуудалтай контент агуулсан гэж үзвэл та мөн бидэнд мэдээлж болно.
ChatGPT дотроос контентыг хэрхэн шууд мэдээлэх талаар дэлгэрэнгүйг энэ нийтлэлээс үзнэ үү.
GPT-үүд
GPT нь асуудалтай байж болзошгүй эсэхийг харахын тулд бид манай /moderation API зэрэг автоматжуулсан хэрэгслүүдийг мөн ашигладаг. Хэрэв бид GPT-тэй холбоотой асуудалтай контент илрүүлбэл, түүнийг түгээхээс сэргийлэх зэрэг арга хэмжээ авна. Бүтээгч нь асуудалтай контентыг арилгахын тулд GPT эсвэл API-ийн тохиргоог засах боломжтой, эсвэл бүтээгдэхүүн доторх урсгалаар дамжуулан шийдвэрийг давж заалдаж болно. Маш хязгаарлагдмал цөөн нөхцөлд ноцтой зөрчил гаргасан бол бид бүтээгчийн бүртгэлийг мөн хориглож болно.
Бид асуудалтай GPT-үүдийн талаарх хүмүүсийн мэдээллийг мөн хүлээн авдаг. Хэрэв та манай ашиглалтын бодлогыг зөрчиж байна гэж үзсэн эсвэл өөрөөр асуудалтай контентыг тусгасан GPT харвал та мөн бидэнд мэдээлж болно. Эдгээр мэдээллийг хянахын тулд бид автоматжуулсан системүүд болон бэлтгэгдсэн мэргэжилтнүүдийн багийг хослуулан ашигладаг.