OpenAI, içeriklerin OpenAI araçlarıyla oluşturulup oluşturulmadığını anlamaya yardımcı olmak için SynthID filigranları ve İçerik Kimlik Bilgileri (C2PA) gibi köken sinyalleri kullanır. Köken sinyalleri, içeriğin kaynağına ilişkin yararlı göstergeler olabilir ancak içeriğin doğru, düzenlenmemiş, yasal olarak sahiplenilmiş veya doğru bağlamda sunulmuş olduğunu garanti etmez.
C2PA standardı nedir ve ne sağlar?
C2PA; yayıncıların, şirketlerin ve diğer tarafların, kaynağını ve ilgili bilgileri doğrulamak amacıyla medya içeriklerine meta veri eklemesine olanak tanıyan açık bir teknik standarttır. C2PA yalnızca yapay zekâyla oluşturulan içeriklere yönelik değildir. Aynı standart; medya içeriklerinin kaynağını ve geçmişini, diğer bir deyişle kökenini doğrulamak için kamera üreticileri, haber kuruluşları ve diğer taraflarca da benimsenmektedir.
C2PA meta verileri; bir dosyayı oluşturan araç veya hizmet, dosyanın oluşturulma zamanı ve kaynağı ya da geçmişiyle ilgili diğer ayrıntılar gibi bilgileri içerebilir.
C2PA hakkında daha fazla bilgi edinin.
SynthID nedir ve ne sağlar?
SynthID, doğrudan oluşturulan medya içeriğine bir sinyal yerleştiren görünmez filigran teknolojisidir. Meta verilerin aksine bu sinyal, içeriğin bir parçasıdır ve bazı düzenleme veya dönüştürme işlemlerinden sonra da korunabilir.
SynthID, C2PA meta verilerine ek bir köken sinyali sağlar. Örneğin meta veriler bir dosyadan kaldırılırsa yerleşik filigran, içeriğin desteklenen OpenAI araçlarıyla oluşturulduğuna ilişkin bir sinyal sağlamaya devam edebilir.
OpenAI tarafından oluşturulan hangi içerik türleri köken sinyalleri içerir?
OpenAI, farklı içerik türleri için farklı köken sinyalleri kullanır.
| İçerik türü | Köken sinyalleri | Notlar |
|---|---|---|
| Görseller | C2PA meta verileri ve SynthID filigranları | ChatGPT, Codex ve OpenAI API ile oluşturulan desteklenen görseller her iki sinyali de içerir. |
| Ses | SynthID filigranları | OpenAI tarafından oluşturulan desteklenen ses içerikleri, doğrudan sesin içine yerleştirilmiş işitilemez bir filigran içerir. |
Kapsam; ürüne, modele, dışa aktarma yoluna, dosya türüne ve içeriğin ne zaman oluşturulduğuna göre değişebilir.
Bazı içerik türleri neden farklı köken sinyalleri kullanır?
Farklı medya biçimleri, köken bilgilerini farklı şekillerde korur.
C2PA İçerik Kimlik Bilgileri gibi meta veriler daha ayrıntılı bilgiler taşıyabilir ancak bazen platformlar, düzenleme araçları veya dosya dönüştürme işlemleri tarafından kaldırılabilir.
SynthID gibi filigranlar, doğrudan oluşturulan medya içeriğine yerleştirilir ve bazı dönüştürme işlemlerinden sonra da korunabilir. Ancak filigranlar genellikle meta verilere kıyasla daha az bağlam sağlar.
Teknik olarak mümkün olduğunda her iki yaklaşımı da uygun şekilde kullanmak, daha güçlü köken sinyalleri sağlanmasına yardımcı olur.
OpenAI araçlarıyla oluşturulan bir görsele nasıl görünür filigran ekleyebilirim?
Modelden görünür bir ibare eklemesini isteyerek ChatGPT, Codex ve OpenAI API ile oluşturulan görsellere bu tür bir ibare eklenmesini talep edebilirsiniz. Örneğin bir görsel oluştururken şöyle diyebilirsiniz: “Include a visible OpenAI watermark in the image.”
Görünür filigranlar, C2PA meta verileri ve SynthID filigranları gibi yerleşik köken sinyallerinden ayrıdır. İzleyicilerin bir görselin OpenAI araçlarıyla oluşturulduğunu anlamasına yardımcı olabilirler ancak makine tarafından okunabilen köken sinyalleriyle aynı değildirler.
İçeriğin OpenAI araçlarıyla oluşturulup oluşturulmadığını nasıl kontrol edebilirim?
Desteklenen bir görsel veya ses dosyasının OpenAI araçlarıyla oluşturulan ya da dışa aktarılan içeriklerle ilişkili köken sinyalleri içerip içermediğini kontrol etmek için openai.com/verify adresini ziyaret edebilirsiniz.
Desteklenen bir dosyayı yükledikten sonra araç, SynthID filigranı veya OpenAI ile ilişkili güvenilir bir C2PA tanım dosyası gibi desteklenen OpenAI köken sinyallerini arar.
Araç desteklenen bir OpenAI köken sinyali bulursa bu, içeriğin OpenAI araçlarıyla oluşturulduğunu veya bu araçlardan dışa aktarıldığını gösterir.
Doğrulama sonucu ne anlama gelir?
Bir sinyal algılanırsa araç, yüklenen içeriğin OpenAI ile ilişkili ve desteklenen bir köken sinyali içerdiğini doğrulamaya yardımcı olabilir.
Araç; içeriğin doğru, düzenlenmemiş, yasal olarak sahiplenilmiş veya doğru bağlamda sunulmuş olduğunu doğrulamaz. Ayrıca içeriği kimin veya neden oluşturduğunu da belirlemez.
Hiçbir sinyal bulunamazsa ne olur?
Hiçbir sinyal algılanmaması, aracın yüklenen dosyada OpenAI tarafından sağlanan köken sinyalleri bulamadığı anlamına gelir.
Aşağıdaki durumlarda içerik yine de OpenAI tarafından oluşturulmuş veya dışa aktarılmış olabilir:
İçerik, köken sinyalleri kullanıma sunulmadan önce oluşturulmuştur.
İçerik; desteklenmeyen bir ürün, model, dışa aktarma yolu veya dosya türünden gelmiştir.
Meta veriler yükleme, indirme, düzenleme, dönüştürme veya paylaşma sırasında kaldırılmıştır.
Filigran; sıkıştırma, kırpma, parazit, düzenleme, biçim dönüştürme veya diğer değişiklikler nedeniyle bozulmuştur.
Ses klibi çok kısadır veya önemli ölçüde değiştirilmiştir.
Metin çıktılarının desteklenmesine yönelik planlarınız var mı?
Avrupa Komisyonu’nun yapay zekâyla oluşturulan içeriklerin şeffaflığına ilişkin Uygulama Kuralları kapsamındaki taahhütlerimiz doğrultusunda hedefimiz, standartlar ve araçlar gelişmeye devam ederken müşterilerin ve geliştiricilerin kendi şeffaflık yükümlülüklerini yerine getirebilmesi için köken sinyallerini metin dâhil tüm modalitelere yaymaktır.
OpenAI Verify, diğer yapay zekâ araçlarının oluşturduğu içerikleri algılayabilir mi?
OpenAI Verify, OpenAI araçlarıyla oluşturulan veya bu araçlardan dışa aktarılan içeriklerle ilişkili desteklenen köken sinyallerini algılamak üzere tasarlanmıştır.
Diğer yapay zekâ hizmetleri tarafından oluşturulan içerikleri algılamak üzere tasarlanmamıştır. Ayrıca ilgili sinyal eksikse, desteklenmiyorsa veya bozulmuşsa OpenAI tarafından oluşturulan içerikleri de algılayamayabilir.
Geliştiriciler bir API kullanarak içerikleri doğrulayabilir mi?
Geliştiriciler ve kuruluşlar, desteklenen içeriklerde OpenAI köken sinyallerini kontrol etmek ve doğrulamayı kendi uygulamalarına veya iş akışlarına entegre etmek için OpenAI’ın doğrulama API’sini kullanabilir. API erişimi hakkında bilgi edinmek için openai.com/verify adresini ziyaret edin. Daha yüksek kullanım sınırlarına ihtiyaç duyan kuruluşlar, sınırların artırılması için başvurabilir. Daha fazla bilgi için lütfen openai.com/verify adresini ziyaret edin.