Produk AI bisa dadi luwih migunani nalika disambungaké menyang aplikasi sampeyan lan web, lan kita wis nandur modal gedhé kanggo njaga data sing kasambung tetep aman saka risiko kayata serangan injeksi prompt. Produk kita nduwèni akèh perlindungan sing wis ana ing tingkat model, produk, lan sistem. Iki kalebu sandboxing, perlindungan saka eksfiltrasi data adhedhasar URL, pemantauan lan penegakan, lan kontrol perusahaan kayata akses adhedhasar peran lan log audit.
Ing wektu sing padha, sawetara kapabilitas sing ana gandhèngané karo jaringan ngenalaké risiko anyar, utamané injeksi prompt, sing durung ditangani kanthi lengkap déning mitigasi keselamatan lan keamanan industri. Sawetara pangguna bisa uga ora masalah nampa risiko kasebut, lan kita percaya penting kanggo pangguna nduwèni kemampuan kanggo mutusaké apa lan kepiyé cara migunakaké, utamané nalika nggarap data pribadi.
Supaya risiko kaya mangkéné luwih gampang dingertèni, kita ngupaya ngandharaké risiko iki nganggo label “Risiko Luwih Dhuwur”, istilah, lan ikon sing konsisten (tandha seru ing njero tameng), kanthi cara sing cocog kanggo saben fitur lan produk. Pèngetan nganggo label iki nyedhiyakake visibilitas lan kontrol tambahan kanggo pangguna, nglengkapi perlindungan sing wis ana.
Cathetan: Fitur sing diwènèhi label “Risiko luwih dhuwur” ditawaraké kanthi opsional lan akses awal, ing njaba pernyataan lan jaminan standar sing kita wènèhaké kanggo layanan sing kasedhiya umum. Pangguna mung kudu nguripaké fitur iki yen wis mangertèni lan rumangsa nyaman karo risiko tambahan kasebut.
Apa tegesé “Risiko luwih dhuwur”?
Yèn sawijining kapabilitas diwènèhi label “Risiko luwih dhuwur”, iki nuduhaké yèn panggunaan fitur kasebut nyebabaké sawetara risiko sing durung ditanggulangi kanthi tuntas liwat langkah-langkah mitigasi kaslametan lan keamanan ing industri. Saben ndeleng label iki, lumrahé sampeyan bakal nemokaké pandhuan babagan risiko saka panggunaan fitur kasebut lan bab apa waé sing kudu digatèkaké, asring liwat pranala “Sinau luwih lengkap”.
Contoné, ing Codex, asisten pamrograman kita, pangembang bisa mènèhi Codex aksès jaringan supaya bisa tumindak ing web, kayata nggolèki dokumentasi. Kapabilitas iki uga nduwèni risiko serangan injeksi prompt sing luwih dhuwur. Mula, layar setèlan sing gegayutan nyakup label “Risiko Luwih Dhuwur”, bebarengan karo katrangan sing cetha babagan apa sing owah, risiko apa sing bisa muncul, lan kapan aksès kasebut trep digunakaké.
Risiko luwih dhuwur sing paling umum ing fitur kanthi label kasebut yaiku serangan injeksi prompt.
Nalika pangayoman saya apik, kita bisa mbusak label “Risiko luwih dhuwur” sawisé nemtokaké yèn risiko tumrap pangguna wis dimitigasi kanthi cukup.