Der Lockdown-Modus wird für berechtigte persönliche Konten eingeführt, darunter Free, Go, Plus und Pro, sowie für Self-Service-Konten von ChatGPT Business. Wenn du den Lockdown-Modus in deinen Einstellungen nicht siehst, ist er für dein Konto vielleicht noch nicht verfügbar.
Überblick
Der Lockdown-Modus ist eine optionale, erweiterte Sicherheitseinstellung, die viele Tools und Funktionen in OpenAI-Produkten einschränkt, die eine Verbindung mit dem Web oder externen Diensten herstellen können. Er ist darauf ausgelegt, das Risiko der Datenexfiltration durch Prompt-Injection-Angriffe zu verringern, indem ausgehende Netzwerkanfragen begrenzt werden – allerdings auf Kosten der Deaktivierung oder Einschränkung einiger nützlicher Funktionen.
Der Lockdown-Modus ist nicht für alle gedacht. Er ist für Personen und Organisationen konzipiert, die mit sensiblen Daten umgehen und einen strengeren Schutz vor Risiken der Datenexfiltration im Zusammenhang mit Prompt Injection wünschen.
Verfügbarkeit
Lockdown-Modus ist für alle Kontotypen und Workspaces verfügbar. Du musst angemeldet sein, um ihn zu verwenden.
Wie der Lockdown-Modus dazu beiträgt, das Risiko der Datenexfiltration zu verringern
Prompt Injection ist ein führendes, anspruchsvolles Forschungsproblem, und wir arbeiten kontinuierlich daran, unsere mehrschichtigen Sicherheits- und Schutzsysteme zu verbessern, um Nutzer:innen vor solchen Angriffen zu schützen.
Der Lockdown-Modus baut auf Schutzmaßnahmen auf Modell-, Produkt- und Systemebene auf. Dies umfasst Sandboxing, Schutzmaßnahmen gegen URL-basierte Datenexfiltration, Überwachung und Durchsetzung sowie Unternehmenssteuerungen wie rollenbasierte Zugriffskontrolle und Audit-Logs.
Der Lockdown-Modus soll dazu beitragen, die letzte Phase der Datenexfiltration bei einem Prompt-Injection-Angriff zu verhindern, indem ausgehende Netzwerkanfragen eingeschränkt werden, die sensible Daten an eine:n Angreifer:in übertragen könnten. Der Lockdown-Modus verhindert nicht, dass Prompt Injection in den Inhalten erscheint, die ChatGPT verarbeitet. Beispielsweise könnte eine Prompt Injection in zwischengespeicherten Webinhalten oder in einer hochgeladenen Datei auftreten und dennoch das Verhalten oder die Genauigkeit einer Antwort beeinflussen.
Konkret sind im Lockdown-Modus die folgenden Funktionen der OpenAI-Produkte deaktiviert:
Live-Webbrowsing: Das Webbrowsing ist auf den Zugriff auf zwischengespeicherte Inhalte beschränkt. Suchergebnisse können eingeschränkt, nicht verfügbar oder veraltet sein.
Bildunterstützung: ChatGPT kann in regulären Antworten keine Bilder anzeigen oder Bilder aus dem Web abrufen. Du kannst weiterhin Bilder hochladen, und die Bildgenerierung bleibt dort verfügbar, wo sie auch sonst verfügbar ist.
Deep Research: Deep Research ist deaktiviert.
Agentenmodus: Der Agentenmodus ist deaktiviert.
Canvas-Netzwerk: Nutzer:innen können nicht genehmigen, dass von Canvas generierter Code auf das Netzwerk zugreift.
Datei-Downloads: ChatGPT kann keine Dateien zur Datenanalyse herunterladen. ChatGPT kann weiterhin mit deinen manuell hochgeladenen Dateien arbeiten.
Der Lockdown-Modus ändert nichts an der Erinnerungsfunktion, den Datei-Uploads, der Möglichkeit, eine Unterhaltung zu teilen, oder daran, ob deine Unterhaltungen zur Verbesserung von Modellen verwendet werden. Viele dieser Einstellungen können von Workspace-Admins separat konfiguriert werden.
Der Lockdown-Modus hat keine Auswirkungen auf den Netzwerkzugriff in Codex.
Apps
Wie Apps und Konnektoren im Lockdown-Modus funktionieren, hängt von deinem Kontotyp und den Workspace-Einstellungen ab.
Für persönliche Konten und Self-Service-Konten von ChatGPT Business erlaubt der Lockdown-Modus Konnektoren, die synchronisierte Daten verwenden, blockiert jedoch Live-Konnektor-Zugriff und Konnektor-Schreibaktionen. Einige verbundene Erlebnisse, einschließlich Finanzen in ChatGPT und Shopping-Agent-Erlebnissen, sind im Lockdown-Modus nicht verfügbar.
Bei verwalteten Workspaces werden Apps, MCPs und Konnektoren durch Workspace-Einstellungen und rollenbasierte Zugriffskontrollen gesteuert. Der Lockdown-Modus deaktiviert nicht automatisch jede App in diesen Workspaces. Workspace-Admins sollten nur die vertrauenswürdigen Apps und Aktionen aktivieren, die Mitglieder im Lockdown-Modus benötigen.
Prüfe bei der Fehlerbehebung für einen verwalteten Workspace die Rolle des Mitglieds und die App-Einstellungen gemeinsam. Ein Mitglied kann eine App, einen Konnektor, ein MCP oder eine Aktion möglicherweise nicht verwenden, wenn:
das Mitglied oder die Gruppe einer Lockdown-Modus-Rolle zugewiesen ist, die die erforderliche Berechtigung einschränkt
die App dem Mitglied, der Gruppe oder der Rolle nicht zugewiesen ist
die erforderliche Lese- oder Schreibaktion nicht aktiviert ist
das Mitglied keinen Zugriff auf die zugrunde liegende Datei, das zugrunde liegende Repository, den zugrunde liegenden Kanal, den zugrunde liegenden Datensatz oder das zugrunde liegende Quellsystem hat
App-Zugriff in ChatGPT setzt die Berechtigungen im verbundenen Quellsystem nicht außer Kraft. Weitere Informationen zum Zuweisen von Rollen findest du unter: RBAC.
Bei der Konfiguration von Apps für Mitglieder mit aktiviertem Lockdown-Modus sollten Admins das Risiko des Datenabflusses für jede App und Aktion berücksichtigen.
Hohes Risiko
Diese Apps und Aktionen werden für Nutzer:innen im Lockdown-Modus nicht empfohlen:
Lese- oder Schreibaktionen für nicht vertrauenswürdige Apps werden nicht empfohlen. Aktiviere nur Apps, denen du vertraust.
Schreibaktionen für vertrauenswürdige Apps mit umfassender oder unklarer Sichtbarkeit werden nicht empfohlen. Vermeide es, Schreibaktionen zu aktivieren, selbst für vertrauenswürdige Apps, wenn du nicht bestätigen kannst, dass der Nebeneffekt vor einer:einem böswilligen Akteur:in verborgen bleibt.
Mittleres Risiko
Diese für Nutzer:innen im Lockdown-Modus mit Vorsicht verwenden:
Synchronisierte Konnektoren stellen ein geringeres Risiko als potenzieller „Sink“ für Datenexfiltration dar, da die abgerufenen Daten bereits mit OpenAI synchronisiert sind, sodass Abfragen keine Live-Netzwerkanfragen außerhalb von OpenAI senden. Sie können weiterhin als Quellen sensibler Daten dienen, die ein:e böswillige:r Akteur:in möglicherweise zu exfiltrieren versucht.
Leseaktionen für vertrauenswürdige Apps stellen ein geringeres Risiko als als potenzieller „Sink“ für Datenexfiltration dar, da sie keine schreibseitigen Nebeneffekte erzeugen. Sie können weiterhin als Quellen sensibler Daten dienen, die ein:e böswillige:r Akteur:in möglicherweise zu exfiltrieren versucht.
Schreibaktionen für vertrauenswürdige Apps mit eingeschränkter Sichtbarkeit bergen ein höheres Risiko als Leseaktionen, da sie Nebeneffekte erzeugen. Aktiviere diese nur, wenn du sicher bist, dass jeder Nebeneffekt nur für Personen sichtbar ist, denen du vertraust, und nicht für eine:n böswillige:n Akteur:in.
Unabhängig vom Lockdown-Modus bietet die Plattform für Compliance-API-Protokolle detaillierte Einblicke in die Nutzung von Apps, freigegebene Daten und verbundene Quellen, um Admins dabei zu helfen, den Überblick zu behalten. Weitere Informationen zu App-Nutzungsprotokollen findest du unter: Compliance-API für Enterprise-Kund:innen.
Lockdown-Modus aktivieren
Privat- und Self-Service-Konten für ChatGPT Business
Für berechtigte Privatkonten und Self-Service-ChatGPT Business-Konten:
Gehe zu Einstellungen.
Wähle Sicherheit aus.
Aktiviere unter Erweiterte Sicherheit den Lockdown-Modus.
Wähle im Bestätigungsdialog Aktivieren aus.
Lockdown-Modus und Entwicklermodus können nicht gleichzeitig verwendet werden. Durch Aktivieren des Lockdown-Modus wird der Entwicklermodus deaktiviert. Das spätere Aktivieren des Entwicklermodus deaktiviert den Lockdown-Modus.
Wenn der Lockdown-Modus aktiviert ist, wird oberhalb des Eingabefelds eine Statusmeldung angezeigt. Um ihn nur für einen einzelnen Chat zu deaktivieren, wähle in dieser Statusmeldung Verwalten und dann Für diesen Chat deaktivieren aus. Du kannst auch das Menü „Weitere Optionen“ (•••) öffnen, Lockdown und dann Deaktiviert auswählen. Um ihn für diesen Chat wieder zu aktivieren, wählst du Lockdown und dann Aktiviert aus.
Verwaltete Workspaces
Workspace-Admins können eine benutzerdefinierte Rolle erstellen, sie als „Lockdown-Modus“-Rolle festlegen und ihr dann Mitglieder oder Gruppen zuweisen.
FAQ
Wer kann den Lockdown-Modus aktivieren?
Nutzer:innen mit berechtigten persönlichen Konten und Self-Service-Konten für ChatGPT Business können den Lockdown-Modus unter Einstellungen > Sicherheit aktivieren, sofern er für ihr Konto verfügbar ist. Admins können den Lockdown-Modus für verwaltete Workspace-Mitglieder mithilfe von rollenbasierten Zugriffskontrollen aktivieren.
Deaktiviert der Lockdown-Modus das Training?
Nein. Der Lockdown-Modus ändert nichts daran, ob deine Unterhaltungen zur Verbesserung von Modellen verwendet werden dürfen. Du kannst dies separat in den Datenkontrollen verwalten. Datenkontrollen des Workspace hängen weiterhin vom Workspace-Plan und den Einstellungen ab.
Kann ich Bildgenerierung im Lockdown-Modus verwenden?
Ja. Der Lockdown-Modus schränkt die Bildunterstützung in regulären ChatGPT-Antworten und bei aus dem Web stammenden Bildern ein, deaktiviert die Bildgenerierung jedoch nicht.
Kann ich den Lockdown-Modus für einen einzelnen Chat deaktivieren?
Ja. Wenn der Lockdown-Modus aktiviert ist, wähle oberhalb des Eingabefelds den Tab „Lockdown“ und dann „Für diesen Chat deaktivieren“. Du kannst auch das Menü „Weitere Optionen“ (•••) öffnen, „Lockdown“ und dann „Deaktiviert“ auswählen. Dies ändert nur den aktuellen Chat.
Wirkt sich der Lockdown-Modus auf Codex aus?
Nein. Der Lockdown-Modus wirkt sich nicht auf den Netzwerkzugriff in Codex aus.
Verhindert der Lockdown-Modus alle Prompt-Injection-Angriffe?
Der Lockdown-Modus wurde entwickelt, um das Risiko einer Datenexfiltration durch Prompt Injection in ChatGPT und unterstützten OpenAI-Produkten erheblich zu verringern, garantiert jedoch nicht, dass eine Datenexfiltration ausgeschlossen ist. Ein Risiko kann weiterhin durch aktivierte Apps, unvorhergesehene Kombinationen von Funktionen oder neu entdeckte Techniken bestehen.
Der Lockdown-Modus verhindert außerdem nicht alle anderen Auswirkungen von Prompt-Injection-Angriffen. Beispielsweise könnte eine in einer hochgeladenen Datei verborgene bösartige Anweisung weiterhin das Verhalten von ChatGPT beeinflussen und eine falsche Antwort verursachen.
Ist Prompt Injection ein großes Risiko?
Prompt Injection stellt derzeit kein erhebliches Risiko dar, doch die Auswirkungen könnten zunehmen, wenn Angreifer:innen ausgefeiltere Methoden entwickeln.
Ändert der Lockdown-Modus, was in der Plattform für Compliance-API-Protokolle protokolliert wird?
Nein. Die Plattform für Compliance-API-Protokolle bietet detaillierte Einblicke in die Nutzung von Apps, freigegebenen Daten und verbundenen Quellen. Diese Protokolle werden durch den Lockdown-Modus nicht geändert.