Güvenli genel yapay zekaya ulaşmanın bir yolu olarak sorumlu, yinelemeli geliştirme ve dağıtıma inanıyoruz. Bir modeli kamuya sunmadan önce kayda değer miktarda güvenlik ve hizalama testi ve azaltım çalışması yaparız; ayrıca ChatGPT ve GPT’ler gibi bireylere yönelik hizmetlerimizde görünen sorunlu içerikleri tespit etmeye yardımcı olmak için otomatik ve insan destekli sistemlerimiz de bulunur. Bu çabalardan bazılarını aşağıda özetliyoruz.
ChatGPT ve ChatGPT Görselleştirme
Zararlı olabilecek veya Kullanım Politikalarımızı ihlal edebilecek içerikleri (promptlar, yanıtlar, yüklemeler) tespit etmek için /moderations API hizmetimizin şirket içi sürümü gibi otomatik araçlar kullanıyoruz. Sorunlu içerik tespit edersek genellikle ya içeriğinizin kullanım politikalarımızı ihlal edebileceği konusunda sizi uyarırız ya da modelin promptunuza yanıt vermesini engelleriz. Sorunlu promptu veya yanıtı içeren sohbetin paylaşılmasını da engelleyebiliriz. Çok sınırlı bazı durumlarda, ağır ihlal niteliğindeki davranışlar nedeniyle hesabınızı da kapatabiliriz.
ChatGPT'deki sorunlu içerikler hakkında kişilerden gelen bildirimleri de kabul ediyoruz. Bu bildirimleri incelemek için hem otomatik sistemlerden hem de bu konuda eğitim almış bir uzman ekibinden yararlanıyoruz.
ChatGPT: Birisi sorunlu içerik barındırdığını düşündüğünüz bir sohbet paylaşırsa bunu bize bildirebilirsiniz.
İçerikleri doğrudan ChatGPT üzerinden nasıl bildirebileceğiniz hakkında daha fazla bilgi için bkz.: ChatGPT ve OpenAI platformlarında içerik bildirme.
GPT'ler
Bir GPT'nin sorun teşkil edip etmediğini belirlemek için /moderations API hizmetimiz gibi otomatik araçlar da kullanıyoruz. GPT ile ilişkili sorunlu içerik tespit edersek GPT'nin dağıtımını engellemek gibi önlemler alırız. GPT'yi oluşturan kişi, sorunlu içeriği kaldırmak için GPT veya API yapılandırmasını düzenleyebilir ya da ürün içindeki itiraz sürecini kullanarak karara itiraz edebilir. Çok sınırlı bazı durumlarda, ağır ihlal niteliğindeki davranışlar nedeniyle GPT'yi oluşturan kişinin hesabını da kapatabiliriz.
Sorunlu GPT'ler hakkında kişilerden gelen bildirimleri de kabul ediyoruz. Kullanım politikalarımızı ihlal ettiğini veya başka bir açıdan sorunlu içerik barındırdığını düşündüğünüz bir GPT görürseniz bunu bize bildirebilirsiniz. Bu bildirimleri incelemek için hem otomatik sistemlerden hem de bu konuda eğitim almış bir uzman ekibinden yararlanıyoruz.