Überblick
Der Lockdown-Modus ist möglicherweise für berechtigte persönliche Konten, Self-Service-Konten von ChatGPT Business und unterstützte verwaltete Workspaces verfügbar. Die Verfügbarkeit hängt von deinem Konto, deinem Workspace, dem aktuellen Produkt-Rollout und den Administratoreinstellungen ab.
Der Lockdown-Modus ist eine optionale, erweiterte Sicherheitseinstellung, die viele Tools und Funktionen in OpenAI-Produkten einschränkt, die eine Verbindung mit dem Web oder externen Diensten herstellen können. Er ist darauf ausgelegt, das Risiko der Datenexfiltration durch Prompt-Injection-Angriffe zu verringern, indem ausgehende Netzwerkanfragen begrenzt werden – allerdings auf Kosten der Deaktivierung oder Einschränkung einiger nützlicher Funktionen.
Der Lockdown-Modus ist nicht für alle gedacht. Er ist für Personen und Organisationen konzipiert, die mit sensiblen Daten umgehen und einen strengeren Schutz vor Risiken der Datenexfiltration im Zusammenhang mit Prompt Injection wünschen.
Verfügbarkeit
Der Lockdown-Modus setzt ein angemeldetes Konto voraus und ist nur verfügbar, sofern er für deinen Tarif, deinen Workspace, deine Produktoberfläche und deine Administratorkonfiguration unterstützt wird.
Wie der Lockdown-Modus dazu beiträgt, das Risiko der Datenexfiltration zu verringern
Prompt Injection ist ein anspruchsvolles Forschungsproblem. Wir arbeiten kontinuierlich daran, unsere mehrschichtigen Sicherheits- und Schutzsysteme zu verbessern, um Nutzer:innen vor solchen Angriffen zu schützen.
Der Lockdown-Modus baut auf Schutzmaßnahmen auf Modell-, Produkt- und Systemebene auf. Dies umfasst Sandboxing, Schutzmaßnahmen gegen URL-basierte Datenexfiltration, Überwachung und Durchsetzung sowie Unternehmenssteuerungen wie rollenbasierte Zugriffskontrolle und Audit-Logs.
Der Lockdown-Modus soll dazu beitragen, die letzte Phase der Datenexfiltration bei einem Prompt-Injection-Angriff zu verhindern, indem ausgehende Netzwerkanfragen eingeschränkt werden, die sensible Daten an eine:n Angreifer:in übertragen könnten. Der Lockdown-Modus verhindert nicht, dass Prompt Injection in den Inhalten erscheint, die ChatGPT verarbeitet. Beispielsweise könnte eine Prompt Injection in zwischengespeicherten Webinhalten oder in einer hochgeladenen Datei auftreten und dennoch das Verhalten oder die Genauigkeit einer Antwort beeinflussen.
Der Lockdown-Modus deaktiviert oder beschränkt die folgenden Funktionen von OpenAI-Produkten:
Live-Webbrowsing: Das Webbrowsing ist auf zwischengespeicherte Inhalte beschränkt. Suchergebnisse können eingeschränkt, nicht verfügbar oder veraltet sein.
Bildunterstützung: ChatGPT kann in regulären Antworten keine Bilder anzeigen oder Bilder aus dem Web abrufen. Du kannst weiterhin Bilder hochladen, und die Bildgenerierung bleibt dort verfügbar, wo sie auch sonst verfügbar ist.
Deep Research: Deep Research ist deaktiviert.
Agent-Modus: Der Agent-Modus ist deaktiviert.
Canvas-Netzwerk: Nutzer:innen können nicht genehmigen, dass von Canvas generierter Code auf das Netzwerk zugreift.
Datei-Downloads: ChatGPT kann keine Dateien zur Datenanalyse herunterladen. ChatGPT kann weiterhin mit deinen manuell hochgeladenen Dateien arbeiten.
Der Lockdown-Modus ändert nichts an der Erinnerungsfunktion, den Datei-Uploads, der Möglichkeit, eine Unterhaltung zu teilen, oder daran, ob deine Unterhaltungen zur Verbesserung von Modellen verwendet werden. Viele dieser Einstellungen können von Workspace-Admins separat konfiguriert werden.
Der Lockdown-Modus hat keine Auswirkungen auf den Netzwerkzugriff in Codex.
Apps
Wie Apps und Konnektoren im Lockdown-Modus funktionieren, hängt von deinem Kontotyp und den Workspace-Einstellungen ab.
Für Privat- und Self-Service-Konten für ChatGPT Business blockiert der Lockdown-Modus den Live-Zugriff auf externe Dienste und Konnektor-Schreibaktionen, wenn diese Aktionen mit seinen Sicherheitsvorkehrungen in Konflikt stehen. Einzelkonten können die App-Synchronisierung nicht konfigurieren. In einem berechtigten verwalteten Workspace hängt der Zugriff auf eine vorhandene, von Administratoren verwaltete Quelle auch von den Workspace-Berechtigungen und der aktuellen Richtlinie für den Lockdown-Modus ab. Einige verbundene Erlebnisse, einschließlich Finanzen in ChatGPT und Shopping-Agent-Erlebnissen, sind im Lockdown-Modus nicht verfügbar.
Bei verwalteten Workspaces werden Apps, MCPs und Konnektoren durch Workspace-Einstellungen und rollenbasierte Zugriffskontrollen gesteuert. Der Lockdown-Modus deaktiviert nicht automatisch jede App in diesen Workspaces. Workspace-Admins sollten nur die vertrauenswürdigen Apps und Aktionen aktivieren, die Mitglieder im Lockdown-Modus benötigen.
Prüfe bei der Fehlerbehebung für einen verwalteten Workspace die Rolle des Mitglieds und die App-Einstellungen gemeinsam. Ein Mitglied kann eine App, einen Konnektor, ein MCP oder eine Aktion möglicherweise in folgenden Fällen nicht verwenden:
das Mitglied oder die Gruppe einer Lockdown-Modus-Rolle zugewiesen ist, die die erforderliche Berechtigung einschränkt
die App dem Mitglied, der Gruppe oder der Rolle nicht zugewiesen ist
die erforderliche Lese- oder Schreibaktion nicht aktiviert ist
das Mitglied keinen Zugriff auf die zugrunde liegende Datei, das zugrunde liegende Repository, den zugrunde liegenden Kanal, den zugrunde liegenden Datensatz oder das zugrunde liegende Quellsystem hat
Eine andere Rolle gewährt die erforderliche Berechtigung, aber eine Rolle für den Lockdown-Modus schränkt sie weiterhin ein. Ein:e Workspace-Eigentümer:in muss das Mitglied oder die Gruppe aus der Rolle „Lockdown-Modus“ entfernen, um den Zugriff wiederherzustellen.
App-Zugriff in ChatGPT setzt die Berechtigungen im verbundenen Quellsystem nicht außer Kraft. Weitere Informationen zum Zuweisen von Rollen findest du unter: RBAC.
Bei der Konfiguration von Apps für Mitglieder mit aktiviertem Lockdown-Modus sollten Admins das Risiko des Datenabflusses für jede App und Aktion berücksichtigen.
Hohes Risiko
Diese Apps und Aktionen werden für Nutzer:innen im Lockdown-Modus nicht empfohlen:
Lese- oder Schreibaktionen für nicht vertrauenswürdige Apps werden nicht empfohlen. Aktiviere nur Apps, denen du vertraust.
Schreibaktionen für vertrauenswürdige Apps mit umfassender oder unklarer Sichtbarkeit werden nicht empfohlen. Vermeide es, Schreibaktionen zu aktivieren, selbst für vertrauenswürdige Apps, wenn du nicht bestätigen kannst, dass der Nebeneffekt vor einer:einem böswilligen Akteur:in verborgen bleibt.
Mittleres Risiko
Diese für Nutzer:innen im Lockdown-Modus mit Vorsicht verwenden:
Vom Administrator verwaltete indizierte Quellen können einige ausgehende Netzwerkanfragen reduzieren, da Inhalte aus einem vorhandenen Index und nicht über einen Live-Anbieteraufruf abgerufen werden. Sie können weiterhin sensible Informationen offenlegen, und die Verfügbarkeit im Lockdown-Modus hängt vom Workspace, von der Quelle und von der Sicherheitsrichtlinie ab.
Leseaktionen für vertrauenswürdige Apps stellen ein geringeres Risiko als potenzieller „Sink“ für Datenexfiltration dar, da sie keine schreibseitigen Nebeneffekte erzeugen. Sie können weiterhin als Quellen sensibler Daten dienen, die ein:e böswillige:r Akteur:in möglicherweise zu exfiltrieren versucht.
Schreibaktionen für vertrauenswürdige Apps mit eingeschränkter Sichtbarkeit bergen ein höheres Risiko als Leseaktionen, da sie Nebeneffekte erzeugen. Aktiviere diese nur, wenn du sicher bist, dass jeder Nebeneffekt nur für Personen sichtbar ist, denen du vertraust, und nicht für eine:n böswillige:n Akteur:in.
Berechtigte Enterprise- und Edu-Administratoren können verfügbare Datensätze der Compliance-Plattform verwenden, um Aktivitäten unterstützter Apps zu überprüfen, vorbehaltlich der Workspace-Konfiguration und der Berechtigungen. Details findest du unter: OpenAI-Compliance-Plattform für Enterprise- und Edu-Kund:innen.
Lockdown-Modus aktivieren
Privat- und Self-Service-Konten für ChatGPT Business
Für berechtigte Privatkonten und Self-Service-ChatGPT Business-Konten:
Gehe zu Einstellungen.
Wähle Sicherheit aus.
Aktiviere unter Erweiterte Sicherheit den Lockdown-Modus.
Wähle im Bestätigungsdialog Aktivieren aus.
Lockdown-Modus und Developer Mode können nicht gleichzeitig verwendet werden. Durch Aktivieren des Lockdown-Modus wird der Developer Mode deaktiviert. Das spätere Aktivieren des Developer Mode deaktiviert den Lockdown-Modus.
Wenn der Lockdown-Modus aktiviert ist, kannst du ihn für einen einzelnen Chat deaktivieren. Wähle im Web im Eingabefeld die Kennzeichnung LOCKDOWN-MODUS und dann Für diesen Chat deaktivieren aus.
So änderst du die Einstellung über das Chatmenü:
Öffne das Menü „Weitere Optionen“ (•••).
Wähle Lockdown aus.
Wähle Deaktiviert, um den Modus für diesen Chat auszuschalten, oder Aktiviert, um ihn wieder einzuschalten.
Um die Sicherheitseinstellungen deines Kontos zu öffnen, wähle im Eingabe-Dialogfeld Lockdown verwalten aus.
Verwaltete Workspaces
Workspace-Admins können eine benutzerdefinierte Rolle erstellen, sie als „Lockdown-Modus“-Rolle festlegen und ihr dann Mitglieder oder Gruppen zuweisen.
FAQ
Wer kann den Lockdown-Modus aktivieren?
Nutzer:innen mit berechtigten persönlichen Konten und Self-Service-Konten für ChatGPT Business können den Lockdown-Modus unter Einstellungen > Sicherheit aktivieren, sofern er für ihr Konto verfügbar ist. Admins können den Lockdown-Modus für verwaltete Workspace-Mitglieder mithilfe von rollenbasierten Zugriffskontrollen aktivieren.
Deaktiviert der Lockdown-Modus das Training?
Nein. Der Lockdown-Modus ändert nichts daran, ob deine Unterhaltungen zur Verbesserung von Modellen verwendet werden dürfen. Du kannst dies separat in den Datenkontrollen verwalten. Datenkontrollen des Workspace hängen weiterhin vom Workspace-Plan und den Einstellungen ab.
Kann ich Bildgenerierung im Lockdown-Modus verwenden?
Ja. Der Lockdown-Modus schränkt die Bildunterstützung in regulären ChatGPT-Antworten und bei aus dem Web stammenden Bildern ein, deaktiviert die Bildgenerierung jedoch nicht.
Kann ich den Lockdown-Modus für einen einzelnen Chat deaktivieren?
Ja. Wähle im Web-Eingabefeld die Kennzeichnung LOCKDOWN-MODUS und dann Für diesen Chat deaktivieren. Du kannst die Einstellung auch wie oben beschrieben über das Chat-Menü ändern. Beide Optionen ändern nur den aktuellen Chat.
Wirkt sich der Lockdown-Modus auf Codex aus?
Nein. Der Lockdown-Modus wirkt sich nicht auf den Netzwerkzugriff in Codex aus.
Verhindert der Lockdown-Modus alle Prompt-Injection-Angriffe?
Der Lockdown-Modus wurde entwickelt, um das Risiko einer Datenexfiltration durch Prompt Injection in ChatGPT und unterstützten OpenAI-Produkten erheblich zu verringern, garantiert jedoch nicht, dass eine Datenexfiltration ausgeschlossen ist. Ein Risiko kann weiterhin durch aktivierte Apps, unvorhergesehene Kombinationen von Funktionen oder neu entdeckte Techniken bestehen.
Der Lockdown-Modus verhindert außerdem nicht alle anderen Auswirkungen von Prompt-Injection-Angriffen. Beispielsweise könnte eine in einer hochgeladenen Datei verborgene bösartige Anweisung weiterhin das Verhalten von ChatGPT beeinflussen und eine falsche Antwort verursachen.
Ist Prompt Injection ein großes Risiko?
Prompt-Injection ist ein bekanntes Sicherheitsrisiko, wenn ein KI-System nicht vertrauenswürdige Inhalte verarbeitet. Der Lockdown-Modus kann einige Datenexfiltrationspfade reduzieren, verhindert jedoch nicht jeden Prompt-Injection-Angriff und beseitigt nicht alle Sicherheitsrisiken.
Ändert der Lockdown-Modus, was in der Plattform für Compliance-API-Protokolle protokolliert wird?
Der Lockdown-Modus ändert für sich genommen nicht, welche Datensätze der Compliance Platform verfügbar sind. Compliance-Zugriff und Aufbewahrung hängen vom berechtigten Workspace, den Administratorberechtigungen und den geltenden Produkteinstellungen ab.