نمای کلی
حالت قفل ممکن است برای حسابهای شخصی واجد شرایط، حسابهای سلفسرویس ChatGPT Business و فضاهای کاری مدیریتشده پشتیبانیشده در دسترس باشد. دردسترسبودن آن به حساب، فضای کاری، مرحله فعلی عرضه محصول و تنظیمات سرپرست بستگی دارد.
حالت قفل یک تنظیم اختیاری امنیتی پیشرفته است که بسیاری از ابزارها و قابلیتهای محصولات OpenAI را که میتوانند به وب یا سرویسهای خارجی متصل شوند، محدود میکند. این قابلیت با محدود کردن درخواستهای خروجی شبکه طراحی شده است تا خطر نشت داده ناشی از حملات تزریق اعلان را کاهش دهد؛ هرچند در نتیجه، برخی قابلیتهای مفید غیرفعال یا محدود میشوند.
حالت قفل برای همه کاربران در نظر گرفته نشده است. این قابلیت برای افراد و سازمانهایی طراحی شده است که با دادههای حساس سروکار دارند و خواهان محافظت سختگیرانهتری در برابر خطر نشت داده مرتبط با تزریق اعلان هستند.
دردسترسبودن
حالت قفل به حسابی نیاز دارد که به آن وارد شده باشید و فقط در صورت پشتیبانی در طرح، فضای کاری، بخش محصول و پیکربندی سرپرست شما در دسترس است.
حالت قفل چگونه به کاهش خطر نشت داده کمک میکند
تزریق اعلان مسئله پژوهشی دشواری است. ما پیوسته در تلاشیم سامانههای چندلایه امنیت و ایمنی خود را برای محافظت از کاربران در برابر چنین حملاتی مقاومتر کنیم.
حالت قفل بر تدابیر حفاظتی موجود در سطح مدل، محصول و سامانه بنا شده است. این تدابیر شامل اجرای ایزوله، محافظت در برابر نشت داده مبتنی بر نشانی وب، نظارت و اعمال خطمشی، و کنترلهای سازمانی مانند دسترسی مبتنی بر نقش و گزارشهای ممیزی است.
حالت قفل برای کمک به جلوگیری از مرحله نهایی نشت داده در حمله تزریق اعلان طراحی شده است و درخواستهای خروجی شبکه را که ممکن است دادههای حساس را به مهاجم منتقل کنند محدود میکند. حالت قفل مانع ظاهر شدن تزریق اعلان در محتوای پردازششده توسط ChatGPT نمیشود. برای مثال، تزریق اعلان ممکن است در محتوای ذخیرهشده وب یا یک فایل بارگذاریشده وجود داشته باشد و همچنان بر رفتار یا دقت پاسخ اثر بگذارد.
حالت قفل قابلیتهای زیر را در محصولات OpenAI غیرفعال یا محدود میکند:
مرور زنده وب: مرور وب به محتوای ذخیرهشده محدود میشود. نتایج جستوجو ممکن است محدود، دردسترسنباشند یا قدیمی باشند.
پشتیبانی از تصویر: ممکن است ChatGPT تصاویر را در پاسخهای معمولی نمایش ندهد یا نتواند تصاویر را از وب دریافت کند. کاربران همچنان میتوانند فایلهای تصویری را بارگذاری کنند و تولید تصویر نیز هرجا که از قبل ارائه میشود، در دسترس میماند.
تحقیق عمیق: تحقیق عمیق غیرفعال است.
حالت عامل: حالت عامل غیرفعال است.
دسترسی شبکه در canvas: کاربران نمیتوانند دسترسی کد تولیدشده در canvas به شبکه را تأیید کنند.
بارگیری فایل: ChatGPT نمیتواند برای تحلیل دادهها فایل بارگیری کند. ChatGPT همچنان میتواند روی فایلهایی که خودتان بارگذاری کردهاید کار کند.
حالت قفل تغییری در حافظه، بارگذاری فایل، امکان اشتراکگذاری گفتوگو یا استفاده احتمالی از گفتوگوهای شما برای بهبود مدلها ایجاد نمیکند. سرپرستان فضای کاری میتوانند بسیاری از این تنظیمات را جداگانه پیکربندی کنند.
حالت قفل بر دسترسی شبکه در Codex تأثیری ندارد.
برنامهها
نحوه کار برنامهها و رابطها در حالت قفل به نوع حساب و تنظیمات فضای کاری شما بستگی دارد.
در حسابهای شخصی و حسابهای سلفسرویس ChatGPT Business، حالت قفل دسترسی زنده به سرویسهای خارجی و عملیات نوشتن رابطها را، در صورت مغایرت با تدابیر امنیتی آن، مسدود میکند. در حسابهای شخصی نمیتوان همگامسازی برنامهها را پیکربندی کرد. در یک فضای کاری مدیریتشده واجد شرایط، دسترسی به منبع موجودی که سرپرست آن را مدیریت میکند، به مجوزهای فضای کاری و خطمشی فعلی حالت قفل نیز بستگی دارد. برخی تجربههای متصل، از جمله امور مالی در ChatGPT و تجربههای عامل خرید، در حالت قفل در دسترس نیستند.
در فضاهای کاری مدیریتشده، برنامهها، MCPها و رابطها با تنظیمات فضای کاری و کنترل دسترسی مبتنی بر نقش کنترل میشوند. حالت قفل همه برنامههای این فضاهای کاری را بهطور خودکار غیرفعال نمیکند. سرپرستان فضای کاری باید فقط برنامهها و عملیات مورد اعتماد و مورد نیاز اعضای استفادهکننده از حالت قفل را فعال کنند.
برای عیبیابی فضای کاری مدیریتشده، نقش عضو و تنظیمات برنامه را با هم بررسی کنید. ممکن است عضو در شرایط زیر نتواند از یک برنامه، رابط، MCP یا عملیات استفاده کند:
عضو یا گروه به نقشی در حالت قفل اختصاص یافته باشد که قابلیت مورد نیاز را محدود میکند
برنامه به عضو، گروه یا نقش اختصاص نیافته باشد
عملیات خواندن یا نوشتن مورد نیاز فعال نباشد
عضو به فایل، محل نگهداری، کانال، سابقه یا سامانه منبع مربوط دسترسی نداشته باشد
نقش دیگری قابلیت مورد نیاز را اعطا کند، اما یکی از نقشهای حالت قفل همچنان آن را محدود کند. برای بازیابی دسترسی، مالک فضای کاری باید عضو یا گروه را از نقش حالت قفل حذف کند.
دسترسی به برنامه در ChatGPT بر مجوزهای سامانه منبع متصل اولویت ندارد. برای اطلاعات بیشتر درباره اختصاص نقشها، به کنترل دسترسی مبتنی بر نقش (RBAC) مراجعه کنید.
سرپرستان هنگام پیکربندی برنامهها برای اعضای استفادهکننده از حالت قفل باید خطر نشت داده هر برنامه و عملیات را در نظر بگیرند.
خطر بالا
این برنامهها و عملیات برای کاربران حالت قفل توصیه نمیشوند:
عملیات خواندن یا نوشتن برای برنامههای غیرقابلاعتماد توصیه نمیشود. فقط برنامههای مورد اعتماد خود را فعال کنید.
عملیات نوشتن برای برنامههای مورد اعتمادی که دامنه مشاهده گسترده یا نامشخصی دارند توصیه نمیشود. اگر نمیتوانید تأیید کنید که اثر جانبی از دید عامل مخرب پنهان میماند، حتی برای برنامههای مورد اعتماد نیز عملیات نوشتن را فعال نکنید.
خطر متوسط
برای کاربران حالت قفل، موارد زیر را با احتیاط به کار ببرید:
منابع نمایهشده تحت مدیریت سرپرست میتوانند برخی درخواستهای خروجی شبکه را کاهش دهند، زیرا محتوا بهجای فراخوانی زنده ارائهدهنده از نمایه موجود دریافت میشود. بااینحال، ممکن است اطلاعات حساس را افشا کنند و دردسترسبودنشان در حالت قفل به فضای کاری، منبع و خطمشی امنیتی بستگی دارد.
عملیات خواندن در برنامههای مورد اعتماد، بهعنوان یکی از مسیرهای احتمالی نشت داده، خطر کمتری دارد؛ زیرا اثر جانبی ناشی از نوشتن ایجاد نمیکند. بااینحال، ممکن است منبع اطلاعات حساسی باشد که عامل مخرب برای استخراج آن تلاش کند.
عملیات نوشتن در برنامههای مورد اعتماد با دامنه مشاهده محدود، بهدلیل ایجاد اثرات جانبی از عملیات خواندن پرخطرتر است. این موارد را فقط زمانی فعال کنید که مطمئن باشید هرگونه اثر جانبی فقط برای افراد مورد اعتمادتان قابل مشاهده است، نه برای عامل مخرب.
سرپرستان واجد شرایط Enterprise و Edu میتوانند، با توجه به پیکربندی و مجوزهای فضای کاری، از سوابق موجود در پلتفرم انطباق برای بررسی فعالیت برنامههای پشتیبانیشده استفاده کنند. برای جزئیات، به پلتفرم انطباق OpenAI برای مشتریان Enterprise و Edu مراجعه کنید.
روشن کردن حالت قفل
حسابهای شخصی و حسابهای سلفسرویس ChatGPT Business
برای حسابهای شخصی واجد شرایط و حسابهای سلفسرویس ChatGPT Business:
به تنظیمات بروید.
امنیت را انتخاب کنید.
در بخش امنیت پیشرفته، حالت قفل را روشن کنید.
در پنجره تأیید، روشن کردن را انتخاب کنید.
حالت قفل و حالت توسعهدهنده را نمیتوان همزمان استفاده کرد. با روشن کردن حالت قفل، حالت توسعهدهنده خاموش میشود. اگر بعداً حالت توسعهدهنده را روشن کنید، حالت قفل خاموش میشود.
وقتی حالت قفل روشن است، میتوانید آن را برای یک گفتوگو خاموش کنید. در وب، برچسب حالت قفل را در کادر نوشتن انتخاب کنید و سپس خاموش کردن برای این گفتوگو را انتخاب کنید.
برای تغییر این تنظیم از منوی گفتوگو:
منوی گزینههای بیشتر (•••) را باز کنید.
قفل را انتخاب کنید.
برای خاموش کردن آن در این گفتوگو، غیرفعال و برای روشن کردن دوباره آن، فعال را انتخاب کنید.
برای باز کردن تنظیمات امنیت حسابتان، در پنجره کادر نوشتن مدیریت حالت قفل را انتخاب کنید.
فضاهای کاری مدیریتشده
مدیران فضای کاری میتوانند یک نقش سفارشی ایجاد کنند و آن را بهعنوان نقش «حالت قفل» تعیین کنند، سپس اعضا یا گروهها را به آن اختصاص دهند.
پرسشهای متداول
چه کسانی میتوانند حالت قفل را روشن کنند؟
کاربران حسابهای شخصی واجد شرایط و حسابهای سلفسرویس ChatGPT Business، در صورت ارائه این قابلیت برای حسابشان، میتوانند حالت قفل را از مسیر تنظیمات > امنیت روشن کنند. سرپرستان فضای کاری میتوانند با استفاده از کنترل دسترسی مبتنی بر نقش، حالت قفل را برای اعضای فضای کاری مدیریتشده فعال کنند.
آیا حالت قفل آموزش را خاموش میکند؟
خیر. حالت قفل این را تغییر نمیدهد که آیا گفتوگوهای شما ممکن است برای بهبود مدلها استفاده شوند یا نه. میتوانید این مورد را جداگانه در کنترلهای داده مدیریت کنید. کنترلهای داده فضای کاری همچنان به طرح و تنظیمات فضای کاری بستگی دارند.
آیا میتوانم در حالت قفل از تولید تصویر استفاده کنم؟
بله. حالت قفل پشتیبانی از تصویر را در پاسخهای معمول ChatGPT و تصاویر گرفتهشده از وب محدود میکند، اما تولید تصویر را خاموش نمیکند.
آیا میتوانم حالت قفل را برای یک گفتوگو خاموش کنم؟
بله. برچسب حالت قفل را در کادر نوشتن نسخه وب انتخاب کنید و سپس خاموش کردن برای این گفتوگو را انتخاب کنید. همچنین میتوانید طبق توضیحات بالا، این تنظیم را از منوی گفتوگو تغییر دهید. هر دو گزینه فقط گفتوگوی فعلی را تغییر میدهند.
آیا حالت قفل بر Codex تأثیر میگذارد؟
خیر. حالت قفل بر دسترسی شبکه در Codex تأثیری ندارد.
آیا حالت قفل از همه حملات تزریق اعلان جلوگیری میکند؟
حالت قفل برای کاهش چشمگیر خطر نشت داده مبتنی بر تزریق اعلان در ChatGPT و محصولات پشتیبانیشده OpenAI طراحی شده است، اما تضمین نمیکند که نشت داده رخ ندهد. ممکن است خطر از طریق برنامههای فعال، ترکیبهای پیشبینینشده قابلیتها یا روشهای تازه کشفشده همچنان وجود داشته باشد.
حالت قفل از تمام پیامدهای دیگر حملات تزریق اعلان نیز جلوگیری نمیکند. برای مثال، دستور مخربی که در یک فایل بارگذاریشده پنهان شده است، ممکن است همچنان بر رفتار ChatGPT اثر بگذارد و باعث ارائه پاسخی نادرست شود.
آیا تزریق اعلان خطر بزرگی است؟
هنگامی که یک سامانه هوش مصنوعی محتوای غیرقابلاعتماد را پردازش میکند، تزریق اعلان یک خطر امنیتی شناختهشده است. حالت قفل میتواند برخی مسیرهای نشت داده را محدود کند، اما از همه حملات تزریق اعلان جلوگیری نمیکند و تمام خطرهای امنیتی را از بین نمیبرد.
آیا حالت قفل موارد ثبتشده در پلتفرم گزارشهای Compliance API را تغییر میدهد؟
حالت قفل بهتنهایی تغییری در سوابق موجود در پلتفرم انطباق ایجاد نمیکند. دسترسی و نگهداری دادههای انطباق به فضای کاری واجد شرایط، مجوزهای سرپرست و تنظیمات محصول مربوط بستگی دارد.