Az AI-termékek hasznosabbak lehetnek, ha összekapcsolódnak az alkalmazásaival és a webbel, és jelentős beruházásokat tettünk azért, hogy a kapcsolódó adatok biztonságban legyenek az olyan kockázatokkal szemben, mint az utasítás injekciós támadások. Termékeink számos meglévő védelemmel rendelkeznek a modell, a termék és a rendszer szintjén. Ide tartozik a sandboxolás, az URL-alapú adatkiszivárogtatás elleni védelem, a monitorozás és érvényesítés, valamint az olyan vállalati vezérlők, mint a szerepköralapú hozzáférés és a naplózási naplók.
Ugyanakkor egyes hálózattal kapcsolatos képességek új kockázatokat vezetnek be, különösen utasítás injekciókat, amelyeket az iparági biztonsági és védelmi kockázatcsökkentő intézkedések még nem kezelnek teljes körűen. Egyes felhasználók kényelmesen vállalhatják ezeket a kockázatokat, és úgy véljük, fontos, hogy a felhasználók dönthessenek arról, használják-e ezeket, és ha igen, hogyan, különösen akkor, amikor privát adataikkal dolgoznak.
Az ilyen kockázatok könnyebb megértése érdekében arra törekszünk, hogy ezt a kockázatot egységes „Emelt kockázat” címkével, terminológiával és ikonnal (a pajzson belüli felkiáltójellel) kommunikáljuk, az egyes funkciókhoz és termékekhez illeszkedő módon. Ez a címkézés a meglévő védelmek mellett további láthatóságot és irányítást biztosít a felhasználók számára.
Megjegyzés: Az „Emelt kockázat” címkével ellátott funkciókat opcionális és korai hozzáférési alapon kínáljuk, a standard nyilatkozatokon és garanciákon kívül, amelyeket általánosan elérhető szolgáltatásainkra vállalunk. A felhasználóknak csak akkor szabad bekapcsolniuk ezeket a funkciókat, ha értik a további kockázatokat, és kényelmesen vállalják őket.
Mit jelent a „Fokozott kockázat” címke?
Ha egy képesség „Fokozott kockázat” címkét kap, az azt jelzi, hogy a funkció használata olyan kockázatokkal jár, amelyeket az iparági védelmi és biztonsági intézkedések még nem kezelnek teljeskörűen. A címke mellett általában útmutatást is talál arról, hogy milyen kockázatokkal jár a funkció használata, és mire érdemes figyelni – gyakran egy „További információ” hivatkozáson keresztül.
A Codex kódolási asszisztensben például a fejlesztők hálózati hozzáférést adhatnak a Codexnek, hogy műveleteket végezhessen az interneten, például dokumentációt kereshessen. Ez a képesség az utasítás injekció típusú támadások fokozott kockázatával is jár. Ezért a vonatkozó beállítási képernyőn megjelenik a „Fokozott kockázat” címke, valamint egyértelmű tájékoztatás arról, hogy mi változik, milyen kockázatok merülhetnek fel, és mikor indokolt ez a hozzáférés.
Az így megjelölt funkciók leggyakoribb fokozott kockázatát az utasítás injekció típusú támadások jelentik.
A védelmi intézkedések fejlődésével eltávolíthatjuk a „Fokozott kockázat” címkét, ha úgy ítéljük meg, hogy a felhasználókat érintő kockázatokat észszerű mértékben sikerült csökkenteni.