محصولات AI وقتی به برنامههای شما و وب متصل باشند میتوانند مفیدتر شوند، و ما سرمایهگذاری زیادی کردهایم تا دادههای متصل را در برابر ریسکهایی مانند حملات تزریق اعلان ایمن نگه داریم. محصولات ما محافظتهای موجود متعددی در سطوح مدل، محصول و سیستم دارند. این موارد شامل سندباکسسازی، محافظت در برابر استخراج داده مبتنی بر URL، پایش و اعمال مقررات، و کنترلهای سازمانی مانند دسترسی مبتنی بر نقش و گزارشهای حسابرسی است.
در عین حال، برخی قابلیتهای مرتبط با شبکه ریسکهای تازهای ایجاد میکنند، بهویژه تزریق اعلان، که هنوز بهطور کامل با تدابیر ایمنی و امنیتی صنعت برطرف نشدهاند. برخی کاربران ممکن است با پذیرش این ریسکها مشکلی نداشته باشند، و ما معتقدیم مهم است که کاربران توانایی تصمیمگیری درباره اینکه آیا و چگونه از آنها استفاده کنند را داشته باشند، بهویژه هنگام کار با دادههای خصوصی خود.
برای آسانتر کردن درک چنین ریسکهایی، هدف ما این است که این ریسک را با استفاده از برچسب، اصطلاحات و نماد ثابت «ریسک افزایشیافته» (علامت تعجب داخل سپر)، به شکلی که برای هر ویژگی و محصول معنادار باشد، منتقل کنیم. این برچسبگذاری علاوه بر محافظتهای موجود، دید و کنترل بیشتری به کاربر میدهد.
توجه: ویژگیهایی که با برچسب «ریسک افزایشیافته» مشخص شدهاند، بهصورت اختیاری و دسترسی زودهنگام ارائه میشوند و خارج از اظهارات و ضمانتهای استانداردی هستند که برای خدمات عموماً دردسترس خود ارائه میکنیم. کاربران فقط در صورتی باید این ویژگیها را روشن کنند که ریسکهای اضافی را درک کرده و با آنها راحت باشند.
«ریسک بالا» به چه معناست؟
وقتی قابلیتی با برچسب «ریسک بالا» مشخص میشود، یعنی استفاده از آن با خطراتی همراه است که راهکارهای ایمنی و امنیتی موجود در این صنعت هنوز آنها را بهطور کامل برطرف نکردهاند. هر بار که این برچسب را میبینید، معمولاً راهنماییهایی درباره خطرات ناشی از استفاده از آن قابلیت و نکاتی که باید در نظر داشته باشید ارائه میشود؛ اغلب از طریق پیوند «بیشتر بدانید».
برای مثال، توسعهدهندگان میتوانند به Codex، دستیار کدنویسی ما، اجازه دسترسی به شبکه بدهند تا بتواند اقداماتی مانند جستوجوی مستندات را در وب انجام دهد. این قابلیت همچنین خطر حملات تزریق اعلان را افزایش میدهد. بنابراین، صفحه تنظیمات مربوطه علاوه بر برچسب «ریسک بالا»، توضیح روشنی درباره تغییرات، خطرات احتمالی و موارد مناسب برای اعطای این دسترسی ارائه میکند.
رایجترین ریسک بالا در قابلیتهایی با چنین برچسبی، حملات تزریق اعلان است.
با بهبود تدابیر حفاظتی، اگر تشخیص دهیم خطرات برای کاربران بهطور معقولی کاهش یافتهاند، ممکن است برچسب «ریسک بالا» را حذف کنیم.