Overzicht
De Lockdown-modus is mogelijk beschikbaar voor in aanmerking komende persoonlijke accounts, selfserviceaccounts van ChatGPT Business en ondersteunde beheerde werkruimten. De beschikbaarheid hangt af van uw account, werkruimte, de huidige productuitrol en beheerdersinstellingen.
De Lockdown-modus is een optionele geavanceerde beveiligingsinstelling die veel tools en mogelijkheden beperkt in OpenAI-producten die verbinding kunnen maken met het web of externe services. De modus is ontworpen om het risico op gegevensexfiltratie door aanvallen met prompt-injectie te verkleinen door uitgaande netwerkverzoeken te beperken. Hierdoor worden sommige nuttige functies uitgeschakeld of beperkt.
De Lockdown-modus is niet voor iedereen bedoeld. De modus is ontworpen voor mensen en organisaties die met gevoelige gegevens werken en strengere bescherming willen tegen risico's op gegevensexfiltratie door prompt-injectie.
Beschikbaarheid
Voor de Lockdown-modus moet u zijn aangemeld. De modus is alleen beschikbaar waar uw abonnement, werkruimte, productomgeving en beheerdersconfiguratie worden ondersteund.
Hoe de Lockdown-modus het risico op gegevensexfiltratie helpt verkleinen
Prompt-injectie is een complex onderzoeksvraagstuk. We blijven onze meerlaagse beveiligings- en veiligheidssystemen versterken om gebruikers tegen dergelijke aanvallen te beschermen.
De Lockdown-modus bouwt voort op beveiligingsmaatregelen op model-, product- en systeemniveau. Dit omvat sandboxing, bescherming tegen gegevensexfiltratie via URL's, monitoring en handhaving, en bedrijfscontroles zoals op rollen gebaseerde toegang en auditlogboeken.
De Lockdown-modus is ontworpen om de laatste fase van gegevensexfiltratie bij een aanval met prompt-injectie te helpen voorkomen door uitgaande netwerkverzoeken te beperken waarmee gevoelige gegevens naar een aanvaller kunnen worden verzonden. De Lockdown-modus voorkomt niet dat prompt-injecties voorkomen in de inhoud die ChatGPT verwerkt. Een prompt-injectie kan bijvoorbeeld voorkomen in gecachte webinhoud of een geüpload bestand en nog steeds het gedrag of de nauwkeurigheid van een antwoord beïnvloeden.
De Lockdown-modus schakelt de volgende mogelijkheden van OpenAI-producten uit of beperkt ze:
Live surfen op het web: surfen op het web is beperkt tot gecachte inhoud. Zoekresultaten kunnen beperkt, niet beschikbaar of verouderd zijn.
Ondersteuning voor afbeeldingen: ChatGPT geeft mogelijk geen afbeeldingen weer in gewone antwoorden en kan geen afbeeldingen van het web ophalen. Gebruikers kunnen nog steeds afbeeldingsbestanden uploaden en beeldgeneratie blijft beschikbaar waar deze functie anders ook beschikbaar is.
Diepgaand onderzoek: diepgaand onderzoek is uitgeschakeld.
Agentmodus: de agentmodus is uitgeschakeld.
Netwerktoegang in Canvas: gebruikers kunnen niet toestaan dat door Canvas gegenereerde code toegang krijgt tot het netwerk.
Bestanden downloaden: ChatGPT kan geen bestanden downloaden voor gegevensanalyse. ChatGPT kan nog steeds werken met bestanden die u handmatig uploadt.
De Lockdown-modus verandert niets aan het geheugen, het uploaden van bestanden, de mogelijkheid om een gesprek te delen of de vraag of uw gesprekken mogen worden gebruikt om modellen te verbeteren. Veel van deze instellingen kunnen afzonderlijk door werkruimtebeheerders worden geconfigureerd.
De Lockdown-modus heeft geen invloed op netwerktoegang in Codex.
Apps
Hoe apps en connectors in de Lockdown-modus werken, hangt af van uw accounttype en werkruimte-instellingen.
Bij persoonlijke accounts en selfserviceaccounts van ChatGPT Business blokkeert de Lockdown-modus rechtstreekse toegang tot externe services en schrijfacties van connectors als die acties strijdig zijn met de beveiligingsmaatregelen van de modus. Voor individuele accounts kan appsynchronisatie niet worden geconfigureerd. In een in aanmerking komende beheerde werkruimte hangt de toegang tot een bestaande, door de beheerder beheerde bron ook af van werkruimtemachtigingen en het huidige beleid voor de Lockdown-modus. Sommige gekoppelde functies, waaronder Financiën in ChatGPT en functies met shopping-agents, zijn niet beschikbaar in de Lockdown-modus.
In beheerde werkruimten worden apps, MCP's en connectors beheerd via werkruimte-instellingen en op rollen gebaseerde toegangscontroles. De Lockdown-modus schakelt niet automatisch elke app in deze werkruimten uit. Werkruimtebeheerders moeten alleen de vertrouwde apps en acties inschakelen die leden in de Lockdown-modus nodig hebben.
Controleer bij probleemoplossing in een beheerde werkruimte zowel de rol als de appinstellingen van het lid. Een lid kan een app, connector, MCP of actie mogelijk niet gebruiken als:
het lid of de groep een rol voor de Lockdown-modus heeft die de vereiste mogelijkheid beperkt
de app niet aan het lid, de groep of de rol is toegewezen
de vereiste lees- of schrijfactie niet is ingeschakeld
het lid geen toegang heeft tot het onderliggende bestand, de repository, het kanaal, het record of het bronsysteem
een andere rol de vereiste mogelijkheid verleent, maar een rol voor de Lockdown-modus deze nog steeds beperkt. Een eigenaar van de werkruimte moet het lid of de groep uit de rol voor de Lockdown-modus verwijderen om de toegang te herstellen.
Toegang tot apps in ChatGPT heeft geen voorrang op machtigingen in het gekoppelde bronsysteem. Zie RBAC voor meer informatie over het toewijzen van rollen.
Bij het configureren van apps voor leden die de Lockdown-modus gebruiken, moeten beheerders rekening houden met het risico op gegevensexfiltratie van elke app en actie.
Hoog risico
Deze apps en acties worden niet aanbevolen voor gebruikers in de Lockdown-modus:
Lees- of schrijfacties voor niet-vertrouwde apps worden afgeraden. Schakel alleen apps in die u vertrouwt.
Schrijfacties voor vertrouwde apps met een groot of onzeker zichtbaarheidsbereik worden afgeraden. Schakel geen schrijfacties in, zelfs niet voor vertrouwde apps, als u niet kunt bevestigen dat het neveneffect verborgen blijft voor een kwaadwillende.
Gemiddeld risico
Gebruik deze voorzichtig voor gebruikers in de Lockdown-modus:
Door beheerders beheerde, geïndexeerde bronnen kunnen bepaalde uitgaande netwerkverzoeken beperken, omdat inhoud uit een bestaande index wordt opgehaald in plaats van via een live aanroep bij een provider. Ze kunnen nog steeds gevoelige informatie blootstellen. De beschikbaarheid in de Lockdown-modus hangt af van de werkruimte, de bron en het beveiligingsbeleid.
Leesacties voor vertrouwde apps vormen als mogelijk kanaal voor gegevensexfiltratie een lager risico, omdat ze geen neveneffecten door schrijven veroorzaken. Ze kunnen nog steeds een bron zijn van gevoelige gegevens die een kwaadwillende mogelijk probeert te exfiltreren.
Schrijfacties voor vertrouwde apps met beperkte zichtbaarheid vormen een groter risico dan leesacties, omdat ze neveneffecten veroorzaken. Schakel deze alleen in als u zeker weet dat elk neveneffect uitsluitend zichtbaar is voor mensen die u vertrouwt en niet voor een kwaadwillende.
In aanmerking komende Enterprise- en Edu-beheerders kunnen beschikbare records van het complianceplatform gebruiken om ondersteunde appactiviteit te beoordelen, afhankelijk van de werkruimteconfiguratie en machtigingen. Zie voor meer informatie: OpenAI Compliance Platform voor Enterprise- en Edu-klanten.
Lockdown-modus inschakelen
Persoonlijke accounts en selfserviceaccounts van ChatGPT Business
Voor in aanmerking komende persoonlijke accounts en selfserviceaccounts van ChatGPT Business:
Ga naar Instellingen.
Selecteer Beveiliging.
Schakel onder Geavanceerde beveiliging de Lockdown-modus in.
Selecteer Inschakelen in het bevestigingsvenster.
De Lockdown-modus en ontwikkelaarsmodus kunnen niet tegelijk worden gebruikt. Als u de Lockdown-modus inschakelt, wordt de ontwikkelaarsmodus uitgeschakeld. Als u later de ontwikkelaarsmodus inschakelt, wordt de Lockdown-modus uitgeschakeld.
Wanneer de Lockdown-modus is ingeschakeld, kunt u deze voor één chat uitschakelen. Selecteer op het web het label LOCKDOWN-MODUS in het invoerveld en selecteer vervolgens Uitschakelen voor deze chat.
U wijzigt de instelling als volgt via het chatmenu:
Open het menu met meer opties (•••).
Selecteer Lockdown.
Selecteer Uitgeschakeld om de modus voor deze chat uit te schakelen of Ingeschakeld om deze weer in te schakelen.
Als u de instellingen voor Beveiliging van uw account wilt openen, selecteert u Lockdown beheren in het dialoogvenster van het invoerveld.
Beheerde werkruimten
Werkruimtebeheerders kunnen een aangepaste rol maken en deze aanwijzen als een rol voor de Lockdown-modus, en vervolgens leden of groepen eraan toewijzen.
Veelgestelde vragen
Wie kan de Lockdown-modus inschakelen?
Gebruikers met in aanmerking komende persoonlijke accounts en selfserviceaccounts van ChatGPT Business kunnen de Lockdown-modus inschakelen via Instellingen > Beveiliging wanneer deze voor hun account beschikbaar is. Werkruimtebeheerders kunnen de Lockdown-modus voor leden van beheerde werkruimten inschakelen met op rollen gebaseerde toegangscontroles.
Schakelt de Lockdown-modus training uit?
Nee. De Lockdown-modus verandert niet of je gesprekken mogen worden gebruikt om modellen te verbeteren. Je kunt dit afzonderlijk beheren in de gegevensinstellingen. Gegevensinstellingen voor werkruimten blijven afhankelijk van het werkruimte-abonnement en de instellingen.
Kan ik beeldgeneratie gebruiken in de Lockdown-modus?
Ja. De Lockdown-modus beperkt beeldondersteuning in reguliere ChatGPT-antwoorden en afbeeldingen die van het web afkomstig zijn, maar schakelt beeldgeneratie niet uit.
Kan ik de Lockdown-modus voor één chat uitschakelen?
Ja. Selecteer het label LOCKDOWN-MODUS in het invoerveld op het web en selecteer vervolgens Uitschakelen voor deze chat. U kunt de instelling ook via het chatmenu wijzigen, zoals hierboven beschreven. Beide opties wijzigen alleen de huidige chat.
Heeft de Lockdown-modus invloed op Codex?
Nee. De Lockdown-modus heeft geen invloed op netwerktoegang in Codex.
Voorkomt de Lockdown-modus alle aanvallen met prompt-injectie?
De Lockdown-modus is ontworpen om het risico op gegevensexfiltratie door prompt-injectie in ChatGPT en ondersteunde OpenAI-producten aanzienlijk te verkleinen, maar garandeert niet dat gegevensexfiltratie onmogelijk is. Er kan risico blijven bestaan door ingeschakelde apps, onvoorziene combinaties van mogelijkheden of nieuw ontdekte technieken.
De Lockdown-modus voorkomt evenmin alle andere gevolgen van aanvallen met prompt-injectie. Een schadelijke instructie die in een geüpload bestand is verborgen, kan bijvoorbeeld nog steeds het gedrag van ChatGPT beïnvloeden en een onjuist antwoord veroorzaken.
Is prompt-injectie een groot risico?
Prompt-injectie is een bekend beveiligingsrisico wanneer een AI-systeem niet-vertrouwde inhoud verwerkt. De Lockdown-modus kan bepaalde routes voor gegevensexfiltratie beperken, maar voorkomt niet elke aanval met prompt-injectie en neemt niet alle beveiligingsrisico's weg.
Verandert de Lockdown-modus wat er wordt vastgelegd in het logboekplatform van de Naleving-API?
De Lockdown-modus verandert op zichzelf niet welke records van het complianceplatform beschikbaar zijn. Toegang tot en bewaring van compliancegegevens zijn afhankelijk van de in aanmerking komende werkruimte, beheerdersmachtigingen en toepasselijke productinstellingen.