Begränsat läge lanseras för berättigade personliga konton, inklusive Free, Go, Plus och Pro, samt självbetjäningskonton för ChatGPT Business. Om du inte ser Begränsat läge i dina inställningar kanske det ännu inte är tillgängligt för ditt konto.
Översikt
Begränsat läge är en valfri avancerad säkerhetsinställning som begränsar många verktyg och funktioner i OpenAI-produkter som kan ansluta till webben eller externa tjänster. Det är utformat för att minska risken för dataexfiltrering från promptinjektionsattacker genom att begränsa utgående nätverksbegäranden, på bekostnad av att vissa användbara funktioner inaktiveras eller begränsas.
Begränsat läge är inte avsett för alla. Det är utformat för personer och organisationer som hanterar känsliga data och vill ha striktare skydd mot risker för dataexfiltrering kopplade till promptinjektion.
Tillgänglighet
Begränsat läge är tillgängligt för alla kontotyper och arbetsytor. Du måste vara inloggad för att använda det.
Hur Begränsat läge hjälper till att minska risken för dataexfiltrering
Promptinjektion är ett avancerat och utmanande forskningsproblem, och vi arbetar kontinuerligt med att förstärka våra flerskiktade säkerhets- och skyddssystem för att skydda användare mot sådana attacker.
Begränsat läge bygger på skydd på modell-, produkt- och systemnivå. Detta omfattar sandboxing, skydd mot URL-baserad dataexfiltrering, övervakning och verkställande samt företagskontroller som rollbaserad åtkomst och granskningsloggar.
Begränsat läge är utformat för att hjälpa till att förhindra det sista steget i dataexfiltrering från en promptinjektionsattack genom att begränsa utgående nätverksbegäranden som kan överföra känsliga data till en angripare. Begränsat läge förhindrar inte att promptinjektioner visas i innehållet som ChatGPT bearbetar. En promptinjektion kan till exempel förekomma i cachelagrat webbinnehåll eller i en uppladdad fil och kan fortfarande påverka beteendet eller träffsäkerheten i ett svar.
Specifikt inaktiveras följande funktioner i OpenAI-produkter för dem som använder Begränsat läge:
Webbsurfning i realtid: Webbsurfning begränsas till åtkomst endast till cachelagrat innehåll. Sökresultat kan vara begränsade, otillgängliga eller inaktuella.
Bildstöd: ChatGPT kanske inte visar bilder i vanliga svar eller hämtar bilder från webben. Användare kan fortfarande ladda upp bildfiler, och bildgenerering är fortsatt tillgänglig där den annars är tillgänglig.
Djup forskning: Djup forskning är inaktiverad.
Agentläge: Agentläge är inaktiverat.
Canvas-nätverk: Användare kan inte godkänna Canvas-genererad kod för åtkomst till nätverket.
Filnedladdningar: ChatGPT kan inte ladda ned filer för dataanalys. ChatGPT kan fortfarande arbeta med dina manuellt uppladdade filer.
Begränsat läge ändrar inte minne, filuppladdningar, möjligheten att dela en konversation eller huruvida dina konversationer kan användas för att förbättra modeller. Många av dessa inställningar kan konfigureras separat av arbetsyteadministratörer.
Begränsat läge påverkar inte nätverksåtkomst i Codex.
Appar
Hur appar och anslutningsprogram fungerar i Begränsat läge beror på din kontotyp och arbetsytans inställningar.
För personliga konton och självbetjäningskonton för ChatGPT Business tillåter Begränsat läge anslutningsprogram som använder synkroniserade data, men blockerar liveåtkomst till anslutningsprogram och skrivåtgärder i anslutningsprogram. Vissa anslutna upplevelser, inklusive Ekonomi i ChatGPT och shopping-Agent-upplevelser, är inte tillgängliga i Begränsat läge.
För hanterade arbetsytor styrs appar, MCP:er och anslutningsprogram av arbetsytans inställningar och rollbaserade åtkomstkontroller. Begränsat läge inaktiverar inte automatiskt alla appar i dessa arbetsytor. Arbetsyteadministratörer bör endast aktivera de betrodda appar och åtgärder som medlemmar som använder Begränsat läge behöver.
Vid felsökning av hanterade arbetsytor bör du granska medlemmens roll och appinställningar tillsammans. En medlem kanske inte kan använda en app, ett anslutningsprogram, en MCP eller en åtgärd om:
medlemmen eller gruppen har tilldelats en roll för Begränsat läge som begränsar den nödvändiga kapaciteten
appen inte har tilldelats medlemmen, gruppen eller rollen
den nödvändiga läs- eller skrivåtgärden inte är aktiverad
medlemmen inte har åtkomst till den underliggande filen, förvaret, kanalen, posten eller källsystemet
Appåtkomst i ChatGPT åsidosätter inte behörigheter i det anslutna källsystemet. Mer information om att tilldela roller finns här: RBAC.
När administratörer konfigurerar appar för medlemmar som använder Begränsat läge bör de överväga risken för dataexfiltrering med varje app och åtgärd.
Hög risk
Dessa appar och åtgärder rekommenderas inte för användare i Begränsat läge:
Läs- eller skrivåtgärder för opålitliga appar rekommenderas inte. Aktivera endast appar du litar på.
Skrivåtgärder för betrodda appar med bred eller osäker synlighet rekommenderas inte. Undvik att aktivera skrivåtgärder, även för betrodda appar, om du inte kan bekräfta att bieffekten är dold för en skadlig aktör.
Medelhög risk
Använd dessa med försiktighet för användare i Begränsat läge:
Synkroniseringsanslutningar innebär lägre risk som en möjlig destination för dataexfiltrering eftersom de data som nås redan är synkroniserade till OpenAI, så frågor skickar inte livebegäranden till nätverket utanför OpenAI. De kan fortfarande fungera som källor till känsliga data som en skadlig aktör kan försöka exfiltrera.
Läsåtgärder för betrodda appar innebär lägre risk som en möjlig destination för dataexfiltrering eftersom de inte skapar skrivbieffekter. De kan fortfarande fungera som källor till känsliga data som en skadlig aktör kan försöka exfiltrera.
Skrivåtgärder för betrodda appar med begränsad synlighet innebär högre risk än läsåtgärder eftersom de skapar bieffekter. Aktivera dessa endast när du är säker på att eventuella bieffekter endast är synliga för personer du litar på, inte för en skadlig aktör.
Separat från Begränsat läge ger plattformen Compliance API Logs detaljerad insyn i appanvändning, delade data och anslutna källor för att hjälpa administratörer att behålla överblicken. Mer information om loggar för appanvändning finns här: Compliance API för Enterprise-kunder.
Aktivera Begränsat läge
Personliga konton och självbetjäningskonton för ChatGPT Business
För berättigade personliga konton och självbetjäningskonton för ChatGPT Business:
Gå till Inställningar.
Välj Säkerhet.
Under Avancerad säkerhet, aktivera Begränsat läge.
Välj Aktivera i bekräftelsemodalen.
Begränsat läge och Utvecklarläge kan inte användas samtidigt. När Begränsat läge aktiveras stängs Utvecklarläge av. Om du aktiverar Utvecklarläge senare stängs Begränsat läge av.
När Begränsat läge är aktiverat visas ett statusmeddelande ovanför skrivfältet. Om du vill stänga av det för endast en chatt väljer du Hantera i statusmeddelandet och sedan Stäng av för den här chatten. Du kan också öppna menyn för fler alternativ (•••), välja Begränsat läge och sedan välja Inaktiverat. Om du vill aktivera det igen för chatten väljer du Begränsat läge och sedan Aktiverat.
Hanterade arbetsytor
Arbetsyteadministratörer kan skapa en anpassad roll och ange den som en roll för ”Begränsat läge” och sedan tilldela medlemmar eller grupper till den.
Vanliga frågor
Vem kan aktivera Begränsat läge?
Användare med berättigade personliga konton och självbetjäningskonton för ChatGPT Business kan aktivera Begränsat läge i Inställningar > Säkerhet när det är tillgängligt för deras konto. Arbetsyteadministratörer kan aktivera Begränsat läge för medlemmar i hanterade arbetsytor med hjälp av rollbaserade åtkomstkontroller.
Stänger Begränsat läge av träning?
Nej. Begränsat läge ändrar inte huruvida dina konversationer kan användas för att förbättra modeller. Du kan hantera detta separat i datakontroller. Arbetsytans datakontroller fortsätter att bero på arbetsytans plan och inställningar.
Kan jag använda bildgenerering i Begränsat läge?
Ja. Begränsat läge begränsar bildstöd i vanliga ChatGPT-svar och bilder från webben, men det stänger inte av bildgenerering.
Kan jag stänga av Begränsat läge för en chatt?
Ja. När Begränsat läge är aktiverat väljer du fliken Begränsat läge ovanför skrivfältet och väljer Stäng av för den här chatten. Du kan också öppna menyn för fler alternativ (•••), välja Begränsat läge och sedan välja Inaktiverat. Detta ändrar endast den aktuella chatten.
Påverkar Begränsat läge Codex?
Nej. Begränsat läge påverkar inte nätverksåtkomst i Codex.
Förhindrar Begränsat läge alla promptinjektionsattacker?
Begränsat läge är utformat för att avsevärt minska risken för promptinjektionsbaserad dataexfiltrering i ChatGPT och OpenAI-produkter som stöds, men det garanterar inte att dataexfiltrering inte kan ske. Risk kan kvarstå genom aktiverade appar, oförutsedda kombinationer av funktioner eller nyupptäckta tekniker.
Begränsat läge förhindrar inte heller alla andra effekter av promptinjektionsattacker. En skadlig instruktion som är dold i en uppladdad fil kan till exempel fortfarande påverka ChatGPTs beteende och orsaka ett felaktigt svar.
Är promptinjektion en stor risk?
Promptinjektion är för närvarande inte en stor risk, men dess påverkan kan öka när angripare utvecklar mer sofistikerade metoder.
Ändrar Begränsat läge vad som loggas i plattformen Compliance API Logs?
Nej. Plattformen Compliance API Logs ger detaljerad insyn i appanvändning, delade data och anslutna källor. Dessa loggar ändras inte av Begränsat läge.