เราเชื่อในการพัฒนาและการนำไปใช้งานอย่างมีความรับผิดชอบและเป็นลำดับขั้น เพื่อเป็นหนทางไปสู่ปัญญาประดิษฐ์ทั่วไปที่ปลอดภัย เราทำการทดสอบและบรรเทาความเสี่ยงด้านความปลอดภัยและการจัดแนวให้สอดคล้องในระดับมากก่อนที่จะเปิดตัวโมเดลต่อสาธารณะ และเรายังมีระบบอัตโนมัติและระบบที่ใช้มนุษย์เพื่อช่วยตรวจจับเนื้อหาที่มีปัญหาซึ่งปรากฏบนบริการสำหรับผู้ใช้รายบุคคลของเรา เช่น ChatGPT และ GPTs เราสรุปความพยายามบางส่วนเหล่านั้นไว้ด้านล่าง

ChatGPT และ ImageGen

เราใช้เครื่องมืออัตโนมัติ เช่น /moderations API เวอร์ชันภายในของเรา เพื่อตรวจหาเนื้อหา (คำสั่ง คำตอบที่สร้างขึ้น การอัปโหลด) ที่อาจเป็นอันตรายหรือละเมิดนโยบายการใช้งานของเรา หากเราตรวจพบเนื้อหาที่มีปัญหา โดยทั่วไปเราจะเตือนคุณว่าเนื้อหาของคุณอาจละเมิดนโยบายการใช้งานของเรา หรือบล็อกไม่ให้โมเดลตอบคำสั่งของคุณ เราอาจป้องกันไม่ให้มีการแชร์แชทที่มีคำสั่งหรือคำตอบที่สร้างขึ้นซึ่งมีปัญหาด้วย ในสถานการณ์ที่จำกัดอย่างยิ่ง เราอาจแบนบัญชีของคุณเนื่องจากพฤติกรรมที่ร้ายแรงด้วย

เรายังรับรายงานจากมนุษย์เกี่ยวกับเนื้อหาที่มีปัญหาบน ChatGPT ด้วย เราใช้ทั้งระบบอัตโนมัติและทีมผู้เชี่ยวชาญที่ผ่านการฝึกอบรมเพื่อตรวจสอบรายงานเหล่านี้

• ChatGPT: หากมีคนแชร์แชทที่คุณเชื่อว่ามีเนื้อหาที่มีปัญหา คุณสามารถรายงานให้เราทราบได้เช่นกัน

สำหรับรายละเอียดเพิ่มเติมเกี่ยวกับวิธีรายงานเนื้อหาโดยตรงใน ChatGPT โปรดดูบทความนี้

GPTs

เรายังใช้เครื่องมืออัตโนมัติ เช่น /moderation API ของเรา เพื่อดูว่า GPT อาจมีปัญหาหรือไม่ หากเราตรวจพบเนื้อหาที่มีปัญหาเกี่ยวข้องกับ GPT เราจะดำเนินการ เช่น ป้องกันไม่ให้มีการเผยแพร่ GPT นั้น ผู้สร้างสามารถแก้ไขการกำหนดค่าของ GPT หรือ API เพื่อนำเนื้อหาที่มีปัญหาออก หรืออุทธรณ์คำตัดสินผ่านขั้นตอนภายในผลิตภัณฑ์ได้ ในสถานการณ์ที่จำกัดอย่างยิ่ง เราอาจแบนบัญชีของผู้สร้างเนื่องจากพฤติกรรมที่ร้ายแรงด้วย

เรายังรับรายงานจากมนุษย์เกี่ยวกับ GPT ที่มีปัญหาด้วย หากคุณเห็น GPT ที่คุณเชื่อว่าละเมิดนโยบายการใช้งานของเรา หรือสะท้อนถึงเนื้อหาที่มีปัญหาในลักษณะอื่น คุณสามารถรายงานให้เราทราบได้เช่นกัน เราใช้ทั้งระบบอัตโนมัติและทีมผู้เชี่ยวชาญที่ผ่านการฝึกอบรมเพื่อตรวจสอบรายงานเหล่านี้