Översikt
Begränsat läge kan vara tillgängligt för berättigade personliga konton, självbetjäningskonton för ChatGPT Business och hanterade arbetsytor som stöds. Tillgängligheten beror på ditt konto, din arbetsyta, den aktuella produktlanseringen och administratörens inställningar.
Begränsat läge är en valfri avancerad säkerhetsinställning som begränsar många verktyg och funktioner i OpenAI-produkter som kan ansluta till webben eller externa tjänster. Det är utformat för att minska risken för dataexfiltrering genom promptinjektion genom att begränsa utgående nätverksförfrågningar, men det innebär att vissa användbara funktioner inaktiveras eller begränsas.
Begränsat läge är inte avsett för alla. Det är utformat för personer och organisationer som hanterar känsliga data och vill ha ett striktare skydd mot risker för dataexfiltrering relaterade till promptinjektion.
Tillgänglighet
Begränsat läge kräver att du är inloggad och är endast tillgängligt om det stöds för ditt abonnemang, din arbetsyta, den aktuella produktdelen och administratörskonfigurationen.
Så minskar Begränsat läge risken för dataexfiltrering
Promptinjektion är ett krävande forskningsproblem. Vi arbetar kontinuerligt med att förstärka våra säkerhetssystem i flera lager för att skydda användarna mot sådana attacker.
Begränsat läge bygger vidare på skydd på modell-, produkt- och systemnivå. Det omfattar användning av sandlådor, skydd mot URL-baserad dataexfiltrering, övervakning och tillämpning samt företagskontroller som rollbaserad åtkomst och granskningsloggar.
Begränsat läge är utformat för att förhindra det sista steget i dataexfiltrering från en attack med promptinjektion genom att begränsa utgående nätverksförfrågningar som skulle kunna överföra känsliga data till en angripare. Begränsat läge hindrar inte promptinjektioner från att förekomma i innehåll som ChatGPT behandlar. En promptinjektion kan till exempel förekomma i cachelagrat webbinnehåll eller i en uppladdad fil och ändå påverka ett svars beteende eller korrekthet.
Begränsat läge inaktiverar eller begränsar följande funktioner i OpenAI-produkter:
Webbsökning i realtid: Webbsökning begränsas till cachelagrat innehåll. Sökresultaten kan vara begränsade, otillgängliga eller inaktuella.
Bildstöd: ChatGPT kanske inte visar bilder i vanliga svar eller hämtar bilder från webben. Användare kan fortfarande ladda upp bildfiler, och Bildgenerering är fortsatt tillgänglig där funktionen annars är tillgänglig.
Djup forskning: Djup forskning är inaktiverad.
Agentläge: Agentläget är inaktiverat.
Nätverksåtkomst i Canvas: Användare kan inte godkänna att kod som genererats i Canvas får åtkomst till nätverket.
Filhämtning: ChatGPT kan inte hämta filer för dataanalys. ChatGPT kan fortfarande bearbeta filer som du laddar upp manuellt.
Begränsat läge påverkar inte minnet, filuppladdningar, möjligheten att dela en konversation eller huruvida dina konversationer får användas för att förbättra modeller. Många av dessa inställningar kan konfigureras separat av arbetsytans administratörer.
Begränsat läge påverkar inte nätverksåtkomsten i Codex.
Appar
Hur appar och anslutningar fungerar i Begränsat läge beror på kontotypen och arbetsytans inställningar.
För personliga konton och självbetjäningskonton för ChatGPT Business blockerar Begränsat läge direktåtkomst till externa tjänster och skrivåtgärder via anslutningar när åtgärderna strider mot lägets säkerhetsskydd. Enskilda konton kan inte konfigurera appsynkronisering. På en berättigad hanterad arbetsyta beror åtkomsten till en befintlig administratörshanterad källa även på arbetsytans behörigheter och den aktuella policyn för Begränsat läge. Vissa anslutna funktioner, däribland Ekonomi i ChatGPT och funktioner med shoppingagenter, är inte tillgängliga i Begränsat läge.
För hanterade arbetsytor styrs appar, MCP:er och anslutningar av arbetsytans inställningar och rollbaserade åtkomstkontroller. Begränsat läge inaktiverar inte automatiskt alla appar på dessa arbetsytor. Arbetsytans administratörer bör endast aktivera de betrodda appar och åtgärder som medlemmar i Begränsat läge behöver.
Vid felsökning på en hanterad arbetsyta bör medlemmens roll och appinställningar granskas tillsammans. En medlem kanske inte kan använda en app, anslutning, MCP eller åtgärd om:
medlemmen eller gruppen har tilldelats en roll för Begränsat läge som begränsar den funktion som krävs
appen inte har tilldelats medlemmen, gruppen eller rollen
den läs- eller skrivåtgärd som krävs inte är aktiverad
medlemmen saknar åtkomst till den underliggande filen, förvaret, kanalen, posten eller källsystemet
en annan roll ger den funktion som krävs, men en roll för Begränsat läge fortfarande begränsar den. En arbetsyteägare måste ta bort medlemmen eller gruppen från rollen för Begränsat läge för att återställa åtkomsten.
Appåtkomst i ChatGPT åsidosätter inte behörigheterna i det anslutna källsystemet. Mer information om att tilldela roller finns i RBAC.
När administratörer konfigurerar appar för medlemmar som använder Begränsat läge bör de beakta risken för dataexfiltrering med varje app och åtgärd.
Hög risk
Följande appar och åtgärder rekommenderas inte för användare i Begränsat läge:
Läs- eller skrivåtgärder för appar som inte är betrodda rekommenderas inte. Aktivera endast appar som du litar på.
Skrivåtgärder för betrodda appar med bred eller oklar synlighet rekommenderas inte. Undvik att aktivera skrivåtgärder, även för betrodda appar, om du inte kan bekräfta att sidoeffekten är dold för en illvillig aktör.
Medelhög risk
Använd följande med försiktighet för användare i Begränsat läge:
Administratörshanterade indexerade källor kan minska vissa utgående nätverksförfrågningar eftersom innehållet hämtas från ett befintligt index i stället för genom ett direktanrop till en leverantör. De kan ändå exponera känslig information, och tillgängligheten i Begränsat läge beror på arbetsytan, källan och säkerhetspolicyn.
Läsåtgärder för betrodda appar innebär lägre risk som möjlig mottagare av dataexfiltrering eftersom de inte skapar sidoeffekter genom skrivning. De kan ändå vara källor till känsliga data som en illvillig aktör kan försöka exfiltrera.
Skrivåtgärder för betrodda appar med begränsad synlighet innebär högre risk än läsåtgärder eftersom de skapar sidoeffekter. Aktivera dem endast om du är säker på att eventuella sidoeffekter endast är synliga för personer du litar på och inte för en illvillig aktör.
Berättigade Enterprise- och Edu-administratörer kan använda tillgängliga poster i OpenAI Compliance Platform för att granska appaktivitet som stöds, beroende på arbetsytans konfiguration och behörigheter. Mer information finns i OpenAI Compliance Platform för Enterprise- och Edu-kunder.
Aktivera Begränsat läge
Personliga konton och självbetjäningskonton för ChatGPT Business
För berättigade personliga konton och självbetjäningskonton för ChatGPT Business:
Gå till Inställningar.
Välj Säkerhet.
Aktivera Begränsat läge under Avancerad säkerhet.
Välj Aktivera i bekräftelsedialogrutan.
Begränsat läge och utvecklarläget kan inte användas samtidigt. När Begränsat läge aktiveras inaktiveras utvecklarläget. Om utvecklarläget aktiveras senare inaktiveras Begränsat läge.
När Begränsat läge är aktiverat kan du inaktivera det för en enskild chatt. På webben väljer du etiketten BEGRÄNSAT LÄGE i skrivfältet och sedan Inaktivera för den här chatten.
Så här ändrar du inställningen från chattmenyn:
Öppna menyn med fler alternativ (•••).
Välj Begränsat läge.
Välj Inaktiverat för att inaktivera det för den här chatten eller Aktiverat för att aktivera det igen.
Öppna kontots inställningar för Säkerhet genom att välja Hantera Begränsat läge i skrivfältets dialogruta.
Hanterade arbetsytor
Arbetsyteadministratörer kan skapa en anpassad roll och ange den som en roll för ”Begränsat läge” och sedan tilldela medlemmar eller grupper till den.
Vanliga frågor
Vem kan aktivera Begränsat läge?
Användare med berättigade personliga konton och självbetjäningskonton för ChatGPT Business kan aktivera Begränsat läge under Inställningar > Säkerhet när funktionen är tillgänglig för deras konto. Arbetsytans administratörer kan aktivera Begränsat läge för medlemmar på hanterade arbetsytor med hjälp av rollbaserade åtkomstkontroller.
Stänger Begränsat läge av träning?
Nej. Begränsat läge ändrar inte huruvida dina konversationer kan användas för att förbättra modeller. Du kan hantera detta separat i datakontroller. Arbetsytans datakontroller fortsätter att bero på arbetsytans plan och inställningar.
Kan jag använda bildgenerering i Begränsat läge?
Ja. Begränsat läge begränsar bildstöd i vanliga ChatGPT-svar och bilder från webben, men det stänger inte av bildgenerering.
Kan jag inaktivera Begränsat läge för en enskild chatt?
Ja. Välj etiketten BEGRÄNSAT LÄGE i skrivfältet på webben och sedan Inaktivera för den här chatten. Du kan också ändra inställningen från chattmenyn enligt beskrivningen ovan. Båda alternativen ändrar endast den aktuella chatten.
Påverkar Begränsat läge Codex?
Nej. Begränsat läge påverkar inte nätverksåtkomst i Codex.
Förhindrar Begränsat läge alla promptinjektionsattacker?
Begränsat läge är utformat för att avsevärt minska risken för dataexfiltrering genom promptinjektion i ChatGPT och OpenAI-produkter som stöds, men det garanterar inte att dataexfiltrering inte kan inträffa. Risker kan kvarstå genom aktiverade appar, oförutsedda kombinationer av funktioner eller nyupptäckta metoder.
Begränsat läge förhindrar inte heller alla andra följder av attacker med promptinjektion. En skadlig instruktion som döljs i en uppladdad fil kan till exempel fortfarande påverka ChatGPT:s beteende och leda till ett felaktigt svar.
Är promptinjektion en stor risk?
Promptinjektion är en känd säkerhetsrisk när ett AI-system behandlar innehåll som inte är betrott. Begränsat läge kan minska vissa vägar för dataexfiltrering, men förhindrar inte alla promptinjektionsattacker och eliminerar inte alla säkerhetsrisker.
Ändrar Begränsat läge vad som loggas på plattformen för Efterlevnads-API-loggar?
Begränsat läge ändrar inte i sig vilka poster som är tillgängliga på efterlevnadsplattformen. Åtkomst till och lagring av efterlevnadsdata beror på den berättigade arbetsytan, administratörsbehörigheterna och tillämpliga produktinställningar.