Производите со AI можат да бидат покорисни кога се поврзани со вашите апликации и вебот, а ние вложивме многу во одржувањето на безбедноста на поврзаните податоци од ризици како што се напади со вметнување злонамерни инструкции во промпт. Нашите производи имаат бројни постојни заштити на ниво на модел, производ и систем. Ова вклучува изолирање во sandbox, заштити од ексфилтрација на податоци базирана на URL, следење и спроведување, како и контроли за претпријатија како пристап заснован на улоги и дневници за ревизија.
Во исто време, некои можности поврзани со мрежата воведуваат нови ризици, особено вметнување злонамерни инструкции во промпт, кои сè уште не се целосно адресирани со безбедносните и сигурносните мерки за ублажување во индустријата. Некои корисници може да се чувствуваат удобно да ги прифатат овие ризици, а ние веруваме дека е важно корисниците да имаат можност да одлучат дали и како да ги користат, особено додека работат со своите приватни податоци.
За полесно разбирање на таквите ризици, настојуваме да го комуницираме овој ризик користејќи доследна ознака „Зголемен ризик“, терминологија и икона (извичник во штит), на начин што има смисла за секоја функција и производ. Ова означување им овозможува на корисниците дополнителна видливост и контрола покрај постојните заштити.
Напомена: Функциите означени со „Зголемен ризик“ се нудат како изборни и со ран пристап, надвор од стандардните изјави и гаранции што ги даваме за нашите општодостапни услуги. Корисниците треба да ги вклучуваат овие функции само ако ги разбираат и се чувствуваат удобно со дополнителните ризици.
Што значи „Зголемен ризик“?
Кога некоја можност е означена со „Зголемен ризик“, тоа значи дека нејзината употреба носи одредени ризици што сè уште не се целосно опфатени со мерките за безбедност и заштита во индустријата. Кога ќе ја видите оваа ознака, обично ќе најдете насоки за ризикот што го носи употребата на функцијата и за тоа на што треба да внимавате, често преку врската „Дознајте повеќе“.
На пример, во Codex, нашиот помошник за програмирање, програмерите можат да му овозможат на Codex пристап до мрежата за да извршува дејства на интернет, како што е пребарувањето документација. Оваа можност носи и зголемен ризик од напади со вметнување злонамерни инструкции во промпт. Затоа, соодветниот екран со поставки ја содржи ознаката „Зголемен ризик“, како и јасно објаснување за тоа што се менува, какви ризици може да се појават и кога е соодветно да се овозможи таков пристап.
Најчестиот зголемен ризик кај вака означените функции се нападите со вметнување злонамерни инструкции во промпт.
Како што се подобруваат заштитните мерки, може да ја отстраниме ознаката „Зголемен ризик“ откако ќе утврдиме дека ризиците за корисниците се намалени во разумна мера.