Produk AI dapat lebih bermanfaat saat terhubung ke aplikasi dan web Anda, dan kami telah berinvestasi besar dalam menjaga keamanan data yang terhubung dari risiko seperti serangan injeksi prompt. Produk kami memiliki berbagai perlindungan yang sudah tersedia di tingkat model, produk, dan sistem. Hal ini mencakup sandboxing, perlindungan terhadap eksfiltrasi data berbasis URL, pemantauan dan penegakan, serta kontrol perusahaan seperti kontrol akses berbasis peran dan log audit.
Pada saat yang sama, beberapa kemampuan terkait jaringan memperkenalkan risiko baru, terutama injeksi prompt, yang belum sepenuhnya diatasi oleh langkah-langkah keselamatan dan keamanan industri. Beberapa pengguna mungkin merasa nyaman mengambil risiko ini, dan kami percaya penting bagi pengguna untuk memiliki kemampuan memutuskan apakah akan menggunakan dan bagaimana menggunakannya, terutama saat bekerja dengan data pribadi mereka.
Untuk mempermudah pemahaman risiko semacam ini, kami bertekad untuk mengomunikasikan risiko ini menggunakan label, terminologi, dan ikon “Risiko Tinggi” yang konsisten (tanda seru di dalam lambang perisai), dengan cara yang sesuai untuk setiap fitur dan produk. Pelabelan ini memberikan visibilitas dan kontrol tambahan kepada pengguna di atas perlindungan yang sudah ada.
Catatan: Fitur yang diberi label “Risiko tinggi” ditawarkan atas dasar opsional dan akses awal, di luar representasi dan jaminan standar yang kami berikan untuk layanan kami yang tersedia secara umum. Pengguna sebaiknya hanya mengaktifkan fitur-fitur ini jika mereka memahami dan merasa nyaman dengan risiko tambahan yang ada.
Apa artinya “Risiko tinggi”?
Ketika suatu kemampuan diberi label “Risiko tinggi”, ini menunjukkan bahwa penggunaan fitur tersebut menimbulkan beberapa risiko yang belum sepenuhnya diatasi oleh langkah-langkah mitigasi keselamatan dan keamanan industri. Setiap kali Anda melihat label ini, biasanya Anda akan menemukan panduan tentang risiko yang ditimbulkan oleh penggunaan fitur tersebut dan hal-hal yang perlu diperhatikan, sering kali melalui tautan “Pelajari selengkapnya”.
Misalnya, dalam Codex, asisten pengodean kami, pengembang dapat memberikan akses jaringan kepada Codex sehingga dapat melakukan tindakan di web seperti mencari dokumentasi. Kemampuan ini juga membawa peningkatan risiko serangan injeksi prompt. Layar pengaturan yang relevan oleh karena itu mencakup label “Risiko Tinggi”, beserta penjelasan yang jelas tentang perubahan yang terjadi, risiko yang mungkin timbul, dan kapan akses tersebut tepat.
Risiko tinggi yang paling umum dimiliki oleh fitur berlabel tersebut adalah serangan injeksi prompt.
Seiring peningkatan langkah-langkah perlindungan, kami dapat menghapus label “Risiko tinggi” setelah kami menentukan bahwa risiko tersebut telah cukup dimitigasi bagi pengguna.