OpenAI, içeriğin OpenAI araçlarıyla oluşturulup oluşturulmadığını insanların anlayabilmesine yardımcı olmak için SynthID filigranları ve İçerik Kimlik Bilgileri (C2PA) gibi kaynak sinyalleri kullanır. Kaynak sinyalleri, içeriğin kökenine ilişkin yararlı göstergeler olabilir ancak içeriğin doğru, düzenlenmemiş, yasal olarak sahiplenilmiş veya doğru bağlamda sunulmuş olduğunu garanti etmez.
C2PA standardı nedir ve ne sağlar?
C2PA; yayıncıların, şirketlerin ve diğer kuruluşların medyanın kaynağını ve ilgili bilgileri doğrulamak amacıyla medyaya meta veri yerleştirmesine olanak tanıyan açık bir teknik standarttır. C2PA yalnızca yapay zekâ tarafından oluşturulan içeriklere yönelik değildir. Aynı standart; medya içeriğinin kaynağını ve geçmişini, diğer bir deyişle kökenini doğrulamak amacıyla kamera üreticileri, haber kuruluşları ve diğer kurumlar tarafından da benimsenmektedir.
C2PA meta verileri; dosyayı oluşturan araç veya hizmet, dosyanın ne zaman oluşturulduğu ve kaynağına ya da geçmişine ilişkin diğer ayrıntılar gibi bilgiler içerebilir.
C2PA hakkında daha fazla bilgi edinin.
SynthID nedir ve ne sağlar?
SynthID, oluşturulan medyaya doğrudan bir sinyal yerleştiren görünmez filigran teknolojisidir. Meta verilerin aksine bu sinyal, içeriğin kendisinin bir parçasıdır ve bazı düzenleme veya dönüştürme işlemlerinden sonra varlığını sürdürebilir.
SynthID, C2PA meta verilerinin yanı sıra ek bir kaynak sinyali sağlar. Örneğin bir dosyanın meta verileri kaldırılırsa yerleşik filigran, içeriğin desteklenen OpenAI araçlarıyla oluşturulduğunu gösteren bir sinyal sağlamaya devam edebilir.
OpenAI tarafından oluşturulan hangi içerik türlerinde kaynak sinyalleri bulunur?
OpenAI, farklı içerik türleri için farklı kaynak sinyalleri kullanır.
| İçerik türü | Kaynak sinyalleri | Notlar |
|---|---|---|
| Görüntüler | C2PA meta verileri ve SynthID filigranları | ChatGPT, Codex ve OpenAI API ile oluşturulan desteklenen görüntülerde her iki sinyal de bulunur. |
| Ses | SynthID filigranları | OpenAI tarafından oluşturulan desteklenen seslerde, sesin içine yerleştirilmiş işitilemez bir filigran bulunur. |
Kapsam; ürüne, modele, dışa aktarma yöntemine, dosya türüne ve içeriğin ne zaman oluşturulduğuna göre değişebilir.
Bazı içerik türleri neden farklı kaynak sinyalleri kullanır?
Farklı medya biçimleri, kaynak bilgilerini farklı şekillerde korur.
C2PA İçerik Kimlik Bilgileri gibi meta veriler daha ayrıntılı bilgiler taşıyabilir ancak bazen platformlar, düzenleme araçları veya dosya dönüştürme işlemleri tarafından kaldırılabilir.
SynthID gibi filigranlar, oluşturulan medyanın içine yerleştirilir ve bazı dönüştürme işlemlerine karşı daha dayanıklı olabilir. Ancak filigranlar genellikle meta verilere kıyasla daha az bağlam sağlar.
Teknik açıdan mümkün olduğunda, her iki yaklaşımın uygun biçimde kullanılması daha güçlü kaynak sinyalleri sağlamaya yardımcı olur.
OpenAI araçlarıyla oluşturulan bir görüntüye nasıl görünür filigran ekleyebilirim?
Modele bunu eklemesini söyleyerek ChatGPT, Codex ve OpenAI API ile oluşturulan görüntülerde görünür bir açıklama bulunmasını isteyebilirsiniz. Örneğin bir görüntü oluştururken şu istemi kullanabilirsiniz: “Include a visible OpenAI watermark in the image.”
Görünür filigranlar, C2PA meta verileri ve SynthID filigranları gibi yerleşik kaynak sinyallerinden farklıdır. Görüntünün OpenAI araçlarıyla oluşturulduğunu izleyicilerin anlamasına yardımcı olabilirler ancak makine tarafından okunabilen kaynak sinyalleriyle aynı değildirler.
İçeriğin OpenAI araçlarıyla oluşturulup oluşturulmadığını nasıl kontrol edebilirim?
Desteklenen bir görüntü veya ses dosyasında, OpenAI araçlarıyla oluşturulan ya da dışa aktarılan içeriklerle ilişkili kaynak sinyalleri bulunup bulunmadığını kontrol etmek için openai.com/verify adresini ziyaret edebilirsiniz.
Desteklenen bir dosya yüklediğinizde araç, SynthID filigranı veya OpenAI ile ilişkili güvenilir bir C2PA tanım dosyası gibi desteklenen OpenAI kaynak sinyallerini arar.
Araç, desteklenen bir OpenAI kaynak sinyali bulursa bu, içeriğin OpenAI araçlarıyla oluşturulduğunu veya bu araçlardan dışa aktarıldığını gösterir.
Doğrulama sonucu ne anlama gelir?
Bir sinyal algılanırsa araç, yüklenen içerikte OpenAI ile ilişkili ve desteklenen bir kaynak sinyalinin bulunduğunu doğrulamaya yardımcı olabilir.
Araç; içeriğin doğru, düzenlenmemiş, yasal olarak sahiplenilmiş veya doğru bağlamda sunulmuş olduğunu doğrulamaz. Ayrıca içeriği kimin veya neden oluşturduğunu da belirlemez.
Hiçbir sinyal bulunamazsa ne olur?
Hiçbir sinyal algılanmazsa araç, yüklenen dosyada OpenAI tarafından sağlanan kaynak sinyalleri bulamamış demektir.
Aşağıdaki durumlarda içerik yine de OpenAI tarafından oluşturulmuş veya dışa aktarılmış olabilir:
İçerik, kaynak sinyalleri kullanıma sunulmadan önce oluşturulmuştur.
İçerik; desteklenmeyen bir üründen, modelden, dışa aktarma yönteminden veya dosya türünden gelmiştir.
Meta veriler yükleme, indirme, düzenleme, dönüştürme veya paylaşma sırasında kaldırılmıştır.
Filigran; sıkıştırma, kırpma, parazit, düzenleme, biçim dönüştürme veya diğer işlemler nedeniyle bozulmuştur.
Ses klibi çok kısadır veya önemli ölçüde değiştirilmiştir.
Metin çıktılarını desteklemeyi planlıyor musunuz?
Avrupa Komisyonunun yapay zekâ tarafından oluşturulan içeriklerin şeffaflığına ilişkin Uygulama Esasları kapsamındaki taahhütlerimiz doğrultusunda hedefimiz, standartlar ve araçlar gelişmeye devam ederken müşterilerin ve geliştiricilerin kendi şeffaflık yükümlülüklerini yerine getirebilmesi için kaynak sinyallerini metin dâhil tüm içerik türlerine yaymaktır.
OpenAI Verify, diğer yapay zekâ araçlarıyla oluşturulan içerikleri algılayabilir mi?
OpenAI Verify, OpenAI araçlarıyla oluşturulan veya dışa aktarılan içeriklerle ilişkili, desteklenen kaynak sinyallerini algılamak üzere tasarlanmıştır.
Diğer yapay zekâ hizmetleriyle oluşturulan içerikleri algılamak üzere tasarlanmamıştır. Ayrıca ilgili sinyal eksikse, desteklenmiyorsa veya bozulmuşsa OpenAI tarafından oluşturulan içerikleri de algılamayabilir.
Geliştiriciler bir API kullanarak içerikleri doğrulayabilir mi?
Geliştiriciler ve kuruluşlar, desteklenen içeriklerde OpenAI kaynak sinyallerini kontrol etmek ve doğrulamayı kendi uygulamalarına veya iş akışlarına entegre etmek için OpenAI doğrulama API'sini kullanabilir. API erişimi hakkında bilgi için openai.com/verify adresini ziyaret edin. Daha yüksek kullanım sınırlarına ihtiyaç duyan kuruluşlar, sınır artışı için başvurabilir. Daha fazla bilgi için lütfen openai.com/verify adresini ziyaret edin.