Mas makakatulong ang mga produktong AI kapag nakakonekta ang mga ito sa iyong mga app at sa web, at malaki ang ipinuhunan namin para panatilihing secure ang nakakonektang data mula sa mga panganib tulad ng mga prompt injection attack. Marami nang umiiral na proteksyon ang aming mga produkto sa mga antas ng modelo, produkto, at system. Kabilang dito ang sandboxing, mga proteksyon laban sa pagkuha ng data batay sa URL, pagsubaybay at pagpapatupad, at mga enterprise control tulad ng access na batay sa tungkulin at mga audit log.
Kasabay nito, ang ilang kakayahang nauugnay sa network ay nagdudulot ng mga bagong panganib, lalo na ang mga prompt injection, na hindi pa ganap na natutugunan ng mga hakbang sa kaligtasan at seguridad ng industriya. Maaaring komportable ang ilang user na tanggapin ang mga panganib na ito, at naniniwala kaming mahalagang magkaroon ang mga user ng kakayahang magpasya kung gagamitin ang mga ito at paano, lalo na habang nagtatrabaho gamit ang kanilang pribadong data.
Upang gawing mas madaling maunawaan ang ganitong mga panganib, layunin naming ipabatid ang panganib na ito gamit ang pare-parehong label na “Mataas na Panganib”, terminolohiya, at icon (ang tandang padamdam sa loob ng shield), sa paraang angkop para sa bawat feature at produkto. Nagbibigay ang paglalagay ng label na ito ng karagdagang visibility at kontrol para sa user bukod pa sa mga umiiral na proteksyon.
Tandaan: Ang mga feature na may label na “Mataas na panganib” ay iniaalok bilang opsyonal at early access, sa labas ng mga karaniwang representasyon at warranty na ibinibigay namin para sa aming mga serbisyong pangkalahatang available. Dapat lang i-on ng mga user ang mga feature na ito kung nauunawaan nila at komportable sila sa mga karagdagang panganib.
Ano ang ibig sabihin ng “Mas mataas na panganib”?
Kapag may label na “Mas mataas na panganib” ang isang kakayahan, ipinapahiwatig nito na may ilang panganib sa paggamit ng feature na hindi pa ganap na natutugunan ng mga hakbang sa kaligtasan at seguridad ng industriya. Sa tuwing makikita mo ang label na ito, karaniwang may patnubay tungkol sa panganib na dulot ng paggamit sa feature at sa mga dapat mong malaman, madalas sa pamamagitan ng link na “Matuto pa.”
Halimbawa, sa Codex, ang aming assistant sa coding, maaaring bigyan ng mga developer ang Codex ng access sa network upang makagawa ito ng mga bagay sa web, gaya ng paghahanap ng dokumentasyon. May mas mataas ding panganib ng mga pag-atake ng prompt injection ang kakayahang ito. Kaya makikita sa kaugnay na screen ng mga setting ang label na “Mas Mataas na Panganib,” kasama ang malinaw na paliwanag kung ano ang magbabago, anong mga panganib ang maaaring maidulot, at kung kailan naaangkop ang access na iyon.
Ang pinakakaraniwang mas mataas na panganib ng mga feature na may ganitong label ay ang mga pag-atake ng prompt injection.
Habang gumaganda ang mga pananggalang, maaari naming alisin ang label na “Mas mataas na panganib” kapag natukoy naming sapat nang nabawasan ang mga panganib para sa mga user.