Produkty AI mohou být užitečnější, když jsou připojené k vašim aplikacím a webu, a významně jsme investovali do zabezpečení připojených dat před riziky, jako jsou útoky injektáží promptů. Naše produkty mají mnoho stávajících ochran na úrovni modelu, produktu i systému. Patří sem sandboxing, ochrany proti exfiltraci dat prostřednictvím URL, monitorování a vymáhání pravidel a podnikové ovládací prvky, jako je přístup podle rolí a auditní protokoly.
Některé schopnosti související se sítí zároveň přinášejí nová rizika, zejména injektáž promptů, která bezpečnostní opatření v odvětví zatím plně neřeší. Někteří uživatelé mohou být ochotni tato rizika přijmout a věříme, že je důležité, aby uživatelé mohli rozhodnout, zda a jak je používat, zejména při práci se svými soukromými daty.
Aby byla tato rizika srozumitelnější, snažíme se je komunikovat pomocí konzistentního štítku „Zvýšené riziko“, terminologie a ikony (vykřičník ve štítu), a to způsobem, který dává smysl pro každou funkci a produkt. Toto označení poskytuje uživatelům nad rámec stávajících ochran další přehled a kontrolu.
Poznámka: Funkce označené štítkem „Zvýšené riziko“ jsou nabízeny volitelně a v režimu předběžného přístupu, mimo standardní prohlášení a záruky, které poskytujeme u našich obecně dostupných služeb. Uživatelé by tyto funkce měli zapínat pouze tehdy, pokud dodatečným rizikům rozumějí a jsou s nimi srozuměni.
Co znamená „Zvýšené riziko“?
Pokud je určitá funkce označena jako „Zvýšené riziko“, znamená to, že její používání přináší rizika, která zatím nejsou dostatečně ošetřena bezpečnostními opatřeními v oboru. U tohoto označení obvykle najdete informace o rizicích spojených s používáním dané funkce a o tom, na co si dát pozor, často prostřednictvím odkazu „Další informace“.
Například našemu programovacímu asistentovi Codex mohou vývojáři povolit přístup k síti, aby mohl provádět úkony na webu, například vyhledávat dokumentaci. Tato funkce s sebou nese také zvýšené riziko útoků využívajících injektáž promptů. Na příslušné obrazovce nastavení se proto zobrazuje označení „Zvýšené riziko“ spolu s jasným vysvětlením, co se změní, jaká rizika mohou vzniknout a kdy je vhodné tento přístup povolit.
Nejčastějším zvýšeným rizikem u takto označených funkcí jsou útoky využívající injektáž promptů.
S postupným zdokonalováním ochranných opatření můžeme označení „Zvýšené riziko“ odstranit, jakmile dospějeme k závěru, že rizika pro uživatele byla přiměřeně omezena.