AI ürünleri, uygulamalarınıza ve web’e bağlandığında daha yararlı olabilir; bağlı verileri komutlara kötü amaçlı müdahale saldırıları gibi risklere karşı güvende tutmak için önemli yatırımlar yaptık. Ürünlerimizde model, ürün ve sistem düzeylerinde çok sayıda mevcut koruma bulunur. Bunlar arasında korumalı alan kullanımı, URL tabanlı veri sızdırmaya karşı korumalar, izleme ve yaptırım ile rol tabanlı erişim ve denetim günlükleri gibi kurumsal kontroller yer alır.
Aynı zamanda, ağla ilgili bazı özellikler, özellikle de komutlara kötü amaçlı müdahaleler, sektörün güvenlik ve emniyet azaltma önlemleriyle henüz tam olarak ele alınmamış yeni riskler doğurur. Bazı kullanıcılar bu riskleri üstlenme konusunda rahat olabilir; özellikle özel verileriyle çalışırken, kullanıcıların bunları kullanıp kullanmayacaklarına ve nasıl kullanacaklarına karar verebilmesinin önemli olduğuna inanıyoruz.
Bu tür risklerin daha kolay anlaşılmasını sağlamak için bu riski, her özellik ve ürün için anlamlı olacak şekilde tutarlı bir “Yüksek Risk” etiketi, terminolojisi ve simgesiyle (kalkan içindeki ünlem işareti) iletmeyi amaçlıyoruz. Bu etiketleme, mevcut korumaların üzerine ek kullanıcı görünürlüğü ve kontrolü sağlar.
Not: “Yüksek risk” olarak etiketlenen özellikler, genel kullanıma sunulan hizmetlerimiz için sağladığımız standart beyan ve garantilerin dışında, isteğe bağlı ve erken erişim temelinde sunulur. Kullanıcılar bu özellikleri yalnızca ek riskleri anlıyor ve bunlar konusunda rahat hissediyorlarsa açmalıdır.
“Yüksek risk” ne anlama geliyor?
Bir özellik “Yüksek risk” olarak etiketlendiğinde, bu özelliğin kullanımının sektörün güvenlik önlemleriyle henüz tam olarak giderilemeyen bazı riskler taşıdığı anlamına gelir. Bu etiketi gördüğünüz yerlerde genellikle özelliğin kullanımından kaynaklanan riskler ve dikkat edilmesi gerekenler hakkında, çoğu zaman bir “Daha fazla bilgi” bağlantısı üzerinden sunulan yönlendirmeler de bulursunuz.
Örneğin geliştiriciler, kodlama asistanımız Codex'e ağ erişimi vererek internette doküman aramak gibi işlemler yapmasını sağlayabilir. Bu özellik aynı zamanda yüksek prompt enjeksiyonu saldırısı riski taşır. Bu nedenle ilgili ayarlar ekranında “Yüksek Risk” etiketiyle birlikte nelerin değişeceği, hangi risklerin ortaya çıkabileceği ve bu erişimin ne zaman uygun olduğu açıkça açıklanır.
Bu şekilde etiketlenen özelliklerin en sık taşıdığı yüksek risk, prompt enjeksiyonu saldırılarıdır.
Güvenlik önlemleri geliştikçe risklerin kullanıcılar açısından makul ölçüde azaltıldığına karar verdiğimizde “Yüksek risk” etiketini kaldırabiliriz.