OpenAI
הדף הזה תורגם באופן אוטומטי. לצפייה במאמר המקורי באנגלית.

מצב סגר

למדו איך מצב סגר מגביל גישה לאינטרנט ולשירותים חיצוניים כדי לסייע בהפחתת הסיכון להדלפת נתונים בעקבות מתקפות הזרקת פורמפטים.

עודכן: 21 days ago

סקירה כללית

מצב סגר עשוי להיות זמין בחשבונות אישיים ובחשבונות ChatGPT Business בשירות עצמי שעומדים בתנאי הזכאות, וכן בסביבות workspace מנוהלות נתמכות. הזמינות תלויה בחשבון שלכם, ב-workspace, בשלב הנוכחי של הפצת המוצר ובהגדרות מנהלי המערכת.

מצב סגר הוא הגדרת אבטחה מתקדמת שאפשר להפעיל לפי בחירה. הוא מגביל כלים ויכולות רבים במוצרי OpenAI שיכולים להתחבר לרשת או לשירותים חיצוניים. הוא נועד להפחית את הסיכון להדלפת נתונים בעקבות מתקפות הזרקת פורמפטים באמצעות הגבלת בקשות רשת יוצאות, במחיר של השבתה או הגבלה של כמה תכונות שימושיות.

מצב סגר אינו מיועד לכולם. הוא נועד לאנשים ולארגונים המטפלים בנתונים רגישים ורוצים הגנה מחמירה יותר מפני סיכוני הדלפת נתונים הקשורים להזרקת פורמפטים.

זמינות

מצב סגר מחייב כניסה לחשבון וזמין רק כאשר יש תמיכה בו בתוכנית, ב-workspace, בממשק המוצר ובהגדרות מנהלי המערכת שלכם.

איך מצב סגר מסייע להפחית את הסיכון להדלפת נתונים

הזרקת פורמפטים היא בעיה מחקרית מאתגרת. אנחנו פועלים ללא הרף לחיזוק מערכות האבטחה והבטיחות הרב־שכבתיות שלנו כדי להגן על משתמשים מפני מתקפות כאלה.

מצב סגר מתבסס על מנגנוני הגנה ברמת המודל, המוצר והמערכת. מנגנונים אלה כוללים בידוד בסביבת ארגז חול, הגנות מפני הדלפת נתונים באמצעות כתובות URL, ניטור ואכיפה, ובקרות ארגוניות כגון גישה מבוססת תפקידים ויומני ביקורת.

מצב סגר נועד לסייע במניעת השלב האחרון של הדלפת נתונים במתקפת הזרקת פורמפטים, באמצעות הגבלת בקשות רשת יוצאות שעלולות להעביר נתונים רגישים לתוקף. מצב סגר אינו מונע מהזרקת פורמפטים להופיע בתוכן ש-ChatGPT מעבד. למשל, הזרקת פורמפטים יכולה להופיע בתוכן מהאינטרנט שנשמר במטמון או בקובץ שהועלה, ועדיין להשפיע על אופן התגובה או על דיוקה.

מצב סגר משבית או מגביל את היכולות הבאות במוצרי OpenAI:

  • גלישה באינטרנט בזמן אמת: הגלישה מוגבלת לתוכן שנשמר במטמון. תוצאות החיפוש עשויות להיות מוגבלות, לא זמינות או לא עדכניות.

  • תמיכה בתמונות: ייתכן ש-ChatGPT לא יציג תמונות בתשובות רגילות או לא יאחזר תמונות מהאינטרנט. עדיין אפשר להעלות קובצי תמונה, ויצירת תמונות נשארת זמינה בכל מקום שבו היא זמינה גם ללא מצב סגר.

  • מחקר מעמיק: מחקר מעמיק מושבת.

  • מצב סוכן: מצב סוכן מושבת.

  • גישה לרשת בקנבס: משתמשים אינם יכולים לאשר לקוד שנוצר בקנבס לגשת לרשת.

  • הורדת קבצים: ChatGPT אינו יכול להוריד קבצים לצורך ניתוח נתונים. ChatGPT עדיין יכול לעבוד עם קבצים שהעליתם ידנית.

מצב סגר אינו משנה את הזיכרון, את העלאת הקבצים, את האפשרות לשתף שיחה או את ההגדרה שקובעת אם אפשר להשתמש בשיחות שלכם לשיפור מודלים. מנהלי workspace יכולים לקבוע רבות מההגדרות האלה בנפרד.

מצב סגר אינו משפיע על הגישה לרשת ב-Codex.

אפליקציות

אופן הפעולה של אפליקציות במצב סגר תלוי בסוג החשבון ובהגדרות ה-workspace שלכם.

בחשבונות אישיים ובחשבונות ChatGPT Business בשירות עצמי, מצב סגר חוסם גישה בזמן אמת לשירותים חיצוניים ופעולות כתיבה באפליקציות כאשר הן מתנגשות עם מנגנוני האבטחה שלו. חלק מהתכונות שמחוברות לשירותים חיצוניים, ובהן פיננסים ב-ChatGPT ותכונות של סוכני קניות, אינן זמינות במצב סגר.

בסביבות workspace מנוהלות, אפליקציות וחיבורי MCP כפופים להגדרות ה-workspace ולבקרות גישה מבוססות תפקידים. מצב סגר אינו משבית אוטומטית את כל האפליקציות בסביבות workspace אלה. על מנהלי ה-workspace להפעיל רק אפליקציות ופעולות מהימנות שנחוצות לחברים המשתמשים במצב סגר.

לפתרון בעיות ב-workspace מנוהל, בדקו יחד את תפקיד החבר ואת הגדרות האפליקציה. ייתכן שחבר לא יוכל להשתמש באפליקציה, בחיבור MCP או בפעולה אם:

  • לחבר או לקבוצה הוקצה תפקיד של מצב סגר שמגביל את היכולת הנדרשת

  • האפליקציה אינה מוקצית לחבר, לקבוצה או לתפקיד

  • פעולת הקריאה או הכתיבה הנדרשת אינה מופעלת

  • לחבר אין גישה לקובץ, למאגר, לערוץ, לרשומה או למערכת המקור שעליהם הפעולה מתבססת

  • תפקיד אחר מעניק את היכולת הנדרשת, אך תפקיד של מצב סגר עדיין מגביל אותה. כדי להחזיר את הגישה, על הבעלים של ה-workspace להסיר את החבר או את הקבוצה מהתפקיד של מצב סגר.

גישה לאפליקציה ב-ChatGPT אינה עוקפת את ההרשאות במערכת המקור המחוברת. למידע נוסף על הקצאת תפקידים, ראו: RBAC.

בעת הגדרת אפליקציות לחברים המשתמשים במצב סגר, על מנהלי המערכת לשקול את הסיכון להדלפת נתונים בכל אפליקציה ופעולה.

סיכון גבוה

האפליקציות והפעולות הבאות אינן מומלצות למשתמשים במצב סגר:

  • פעולות קריאה או כתיבה באפליקציות לא מהימנות אינן מומלצות. הפעילו רק אפליקציות שאתם סומכים עליהן.

  • פעולות כתיבה באפליקציות מהימנות אינן מומלצות כאשר תוצאותיהן גלויות לקהל רחב או כשלא ברור למי הן גלויות. הימנעו מהפעלת פעולות כתיבה, גם באפליקציות מהימנות, אם אינכם יכולים לוודא שהשינויים שהן יוצרות אינם גלויים לגורם זדוני.

סיכון בינוני

יש לנקוט זהירות בשימוש באפשרויות הבאות עבור משתמשים במצב סגר:

  • מקורות מאונדקסים בניהול מנהלי מערכת יכולים לצמצם חלק מבקשות הרשת היוצאות, משום שהתוכן מאוחזר מאינדקס קיים במקום באמצעות פנייה לספק בזמן אמת. הם עדיין עלולים לחשוף מידע רגיש, וזמינותם במצב סגר תלויה ב-workspace, במקור ובמדיניות האבטחה.

  • פעולות קריאה באפליקציות מהימנות כרוכות בסיכון נמוך יותר לשמש כיעד להדלפת נתונים, משום שהן אינן יוצרות שינויים הנובעים מכתיבה. הן עדיין יכולות לשמש כמקורות לנתונים רגישים שגורם זדוני עלול לנסות להדליף.

  • פעולות כתיבה באפליקציות מהימנות שתוצאותיהן גלויות לקהל מוגבל כרוכות בסיכון גבוה יותר מפעולות קריאה, משום שהן יוצרות שינויים. הפעילו אותן רק כשאתם בטוחים שכל שינוי שנוצר גלוי רק לאנשים שאתם סומכים עליהם, ולא לגורם זדוני.

מנהלי מערכת ב-Enterprise וב-Edu שעומדים בתנאי הזכאות יכולים להשתמש ברשומות הזמינות ב-Compliance Platform כדי לבדוק פעילות נתמכת באפליקציות, בכפוף להגדרות ולהרשאות של ה-workspace. לפרטים, ראו: OpenAI Compliance Platform ללקוחות Enterprise ו-Edu.

הפעלת מצב סגר

חשבונות אישיים וחשבונות ChatGPT Business בשירות עצמי

בחשבונות אישיים ובחשבונות ChatGPT Business בשירות עצמי שעומדים בתנאי הזכאות:

  1. עברו אל הגדרות.

  2. בחרו באבטחה.

  3. תחת אבטחה מתקדמת, הפעילו את מצב סגר.

  4. בחלון האישור, בחרו בהפעלה.

כשמצב סגר מופעל, אפשר לכבות אותו לשיחה אחת בלבד. בגרסת הדפדפן, בחרו בתווית מצב סגר באזור כתיבת ההודעה, ואז בחרו בכיבוי לשיחה זו.

כדי לשנות את ההגדרה מתפריט השיחה:

  1. פתחו את תפריט האפשרויות הנוספות (•••).

  2. בחרו בסגר.

  3. בחרו במושבת כדי לכבות אותו לשיחה זו, או במופעל כדי להפעיל אותו מחדש.

כדי לפתוח את הגדרות האבטחה של החשבון, בחרו בניהול מצב סגר בתיבת הדו־שיח שבאזור כתיבת ההודעה.

סביבות workspace מנוהלות

מנהלי workspace יכולים ליצור תפקיד מותאם אישית, להגדיר אותו כתפקיד של ״מצב סגר״ ואז להקצות אותו לחברים או לקבוצות.

שאלות נפוצות

מי יכול להפעיל מצב סגר?

משתמשים בחשבונות אישיים ובחשבונות ChatGPT Business בשירות עצמי שעומדים בתנאי הזכאות יכולים להפעיל מצב סגר דרך הגדרות > אבטחה, כשהאפשרות זמינה בחשבון שלהם. מנהלי workspace יכולים להפעיל מצב סגר לחברים ב-workspace מנוהל באמצעות בקרות גישה מבוססות תפקידים.

האם מצב סגר מבטל את השימוש בשיחות לאימון?

לא. מצב סגר אינו משנה את ההגדרה שקובעת אם אפשר להשתמש בשיחות שלכם לשיפור מודלים. אפשר לנהל זאת בנפרד בבקרות הנתונים. בקרות הנתונים של ה-workspace ממשיכות להיות תלויות בתוכנית ובהגדרות של ה-workspace.

האם אפשר להשתמש ביצירת תמונות במצב סגר?

כן. מצב סגר מגביל את התמיכה בתמונות בתשובות רגילות של ChatGPT ובתמונות שמקורן ברשת, אך אינו משבית יצירת תמונות.

האם אפשר לכבות מצב סגר לשיחה אחת בלבד?

כן. בחרו בתווית מצב סגר באזור כתיבת ההודעה בגרסת הדפדפן, ואז בחרו בכיבוי לשיחה זו. אפשר גם לשנות את ההגדרה מתפריט השיחה, כפי שמתואר למעלה. שתי האפשרויות משנות רק את ההגדרה של השיחה הנוכחית.

האם מצב סגר משפיע על Codex?

לא. מצב סגר אינו משפיע על הגישה לרשת ב-Codex.

האם מצב סגר מונע את כל מתקפות הזרקת הפורמפטים?

מצב סגר נועד להפחית משמעותית את הסיכון להדלפת נתונים באמצעות הזרקת פורמפטים ב-ChatGPT ובמוצרי OpenAI נתמכים, אך אינו מבטיח שלא תיתכן הדלפת נתונים. עדיין עלול להיות סיכון דרך אפליקציות מופעלות, שילובים בלתי צפויים של יכולות או שיטות שהתגלו לאחרונה.

מצב סגר גם אינו מונע את כל ההשפעות האחרות של מתקפות הזרקת פורמפטים. למשל, הוראה זדונית שמוסתרת בקובץ שהועלה עדיין עלולה להשפיע על ההתנהגות של ChatGPT ולגרום לתשובה שגויה.

האם הזרקת פורמפטים היא סיכון משמעותי?

הזרקת פורמפטים היא סיכון אבטחה מוכר כאשר מערכת בינה מלאכותית מעבדת תוכן לא מהימן. מצב סגר יכול לצמצם חלק מהדרכים להדלפת נתונים, אך הוא אינו מונע כל מתקפת הזרקת פורמפטים ואינו מבטל את כל סיכוני האבטחה.

האם מצב סגר משנה את המידע שנרשם בפלטפורמת היומנים של Compliance API?

מצב סגר כשלעצמו אינו משנה אילו רשומות זמינות ב-Compliance Platform. הגישה לרשומות התאימות ומשך שמירתן תלויים ב-workspace שעומד בתנאי הזכאות, בהרשאות מנהלי המערכת ובהגדרות המוצר הרלוונטיות.

האם המאמר הזה היה מועיל?