Produk AI boleh menjadi lebih berguna apabila disambungkan kepada apl anda dan web, dan kami telah melabur dengan besar untuk memastikan data yang disambungkan selamat daripada risiko seperti serangan suntikan prompt. Produk kami mempunyai banyak perlindungan sedia ada merentas peringkat model, produk dan sistem. Ini termasuk pengasingan kotak pasir, perlindungan terhadap eksfiltrasi data berasaskan URL, pemantauan dan penguatkuasaan, serta kawalan perusahaan seperti akses berasaskan peranan dan log audit.
Pada masa yang sama, sesetengah keupayaan berkaitan rangkaian memperkenalkan risiko baharu, terutamanya suntikan prompt, yang masih belum ditangani sepenuhnya oleh langkah mitigasi keselamatan dan sekuriti industri. Sesetengah pengguna mungkin selesa menanggung risiko ini, dan kami percaya penting untuk pengguna mempunyai keupayaan memutuskan sama ada dan cara untuk menggunakannya, khususnya semasa bekerja dengan data peribadi mereka.
Untuk memudahkan risiko sedemikian difahami, kami berhasrat menyampaikan risiko ini menggunakan label, istilah dan ikon “Risiko Tinggi” yang konsisten (tanda seru dalam perisai), dengan cara yang sesuai untuk setiap ciri dan produk. Pelabelan ini memberikan keterlihatan dan kawalan tambahan kepada pengguna di samping perlindungan sedia ada.
Nota: Ciri yang dilabelkan “Risiko tinggi” ditawarkan secara pilihan dan akses awal, di luar representasi dan jaminan standard yang kami berikan untuk perkhidmatan kami yang tersedia secara umum. Pengguna hanya patut menghidupkan ciri ini jika mereka memahami dan selesa dengan risiko tambahan tersebut.
Apakah maksud “Risiko tinggi”?
Apabila sesuatu keupayaan dilabelkan “Risiko tinggi”, ini menunjukkan bahawa penggunaan ciri tersebut menimbulkan beberapa risiko yang masih belum ditangani sepenuhnya melalui langkah keselamatan dan sekuriti industri. Setiap kali anda melihat label ini, anda biasanya akan menemukan panduan tentang risiko yang timbul daripada penggunaan ciri tersebut dan perkara yang perlu diberi perhatian, lazimnya melalui pautan “Ketahui lebih lanjut”.
Sebagai contoh, dalam Codex, pembantu pengekodan kami, pembangun boleh memberikan akses rangkaian kepada Codex supaya Codex boleh melakukan tindakan di web, seperti mencari dokumentasi. Keupayaan ini juga membawa risiko tinggi terhadap serangan suntikan prom. Oleh itu, skrin tetapan yang berkaitan memaparkan label “Risiko Tinggi”, berserta penjelasan yang jelas tentang perkara yang berubah, risiko yang mungkin timbul dan waktu akses tersebut sesuai digunakan.
Risiko tinggi yang paling lazim bagi ciri berlabel sedemikian ialah serangan suntikan prom.
Apabila langkah perlindungan bertambah baik, kami mungkin mengalih keluar label “Risiko tinggi” setelah kami menentukan bahawa risiko kepada pengguna telah dikurangkan secara munasabah.