Tryb blokady jest stopniowo udostępniany kwalifikującym się kontom osobistym, w tym Free, Go, Plus i Pro, oraz samoobsługowym kontom ChatGPT Business. Jeśli nie widzisz trybu blokady w ustawieniach, może on nie być jeszcze dostępny dla Twojego konta.
Omówienie
Tryb blokady to opcjonalne zaawansowane ustawienie zabezpieczeń, które ogranicza wiele narzędzi i możliwości w produktach OpenAI mogących łączyć się z internetem lub usługami zewnętrznymi. Zaprojektowano go, aby zmniejszać ryzyko eksfiltracji danych z ataków przez wstrzykiwanie poleceń, ograniczając wychodzące żądania sieciowe kosztem wyłączenia lub ograniczenia niektórych przydatnych funkcji.
Tryb blokady nie jest przeznaczony dla wszystkich. Jest przeznaczony dla osób i organizacji, które przetwarzają dane wrażliwe i chcą ściślejszej ochrony przed ryzykiem eksfiltracji danych związanym ze wstrzykiwaniem poleceń.
Dostępność
Tryb blokady jest dostępny dla wszystkich typów kont i przestrzeni roboczych. Aby go używać, musisz się zalogować.
Jak tryb blokady pomaga zmniejszyć ryzyko eksfiltracji danych
Wstrzykiwanie poleceń to pionierski, trudny problem badawczy, a my stale pracujemy nad wzmacnianiem naszych wielowarstwowych systemów bezpieczeństwa i ochrony, aby chronić użytkowników przed takimi atakami.
Tryb blokady opiera się na zabezpieczeniach na poziomie modelu, produktu i systemu. Obejmuje to sandboxing, zabezpieczenia przed eksfiltracją danych przez adresy URL, monitorowanie i egzekwowanie zasad oraz kontrole dla przedsiębiorstw, takie jak dostęp oparty na rolach i dzienniki audytu.
Tryb blokady ma pomagać zapobiegać końcowemu etapowi eksfiltracji danych z ataku przez wstrzykiwanie poleceń, ograniczając wychodzące żądania sieciowe, które mogłyby przesłać wrażliwe dane atakującemu. Tryb blokady nie zapobiega pojawianiu się wstrzyknięć poleceń w treściach przetwarzanych przez ChatGPT. Na przykład wstrzyknięcie polecenia może pojawić się w treściach z pamięci podręcznej internetu lub w przesłanym pliku i nadal wpływać na zachowanie albo dokładność odpowiedzi.
W szczególności u osób w trybie blokady wyłączone są następujące możliwości produktów OpenAI:
Przeglądanie internetu na żywo: przeglądanie internetu jest ograniczone do dostępu wyłącznie do treści z pamięci podręcznej. Wyniki wyszukiwania mogą być ograniczone, niedostępne lub nieaktualne.
Obsługa obrazów: ChatGPT może nie wyświetlać obrazów w zwykłych odpowiedziach ani nie pobierać obrazów z internetu. Użytkownicy nadal mogą przesyłać pliki obrazów, a generowanie obrazu pozostaje dostępne tam, gdzie jest dostępne poza tym trybem.
Głębokie badania: głębokie badania są wyłączone.
Tryb agenta: tryb agenta jest wyłączony.
Dostęp sieciowy obszaru roboczego: użytkownicy nie mogą zatwierdzać dostępu do sieci dla kodu wygenerowanego w obszarze roboczym.
Pobieranie plików: ChatGPT nie może pobierać plików do analizy danych. ChatGPT nadal może pracować na plikach przesłanych przez Ciebie ręcznie.
Tryb blokady nie zmienia pamięci, przesyłania plików, możliwości udostępniania rozmowy ani tego, czy Twoje rozmowy mogą być używane do ulepszania modeli. Wiele z tych ustawień administratorzy przestrzeni roboczych mogą konfigurować oddzielnie.
Tryb blokady nie wpływa na dostęp do sieci w Codex.
Aplikacje
Działanie aplikacji i konektorów w trybie blokady zależy od typu konta i ustawień przestrzeni roboczej.
W przypadku kont osobistych i samoobsługowych kont ChatGPT Business tryb blokady zezwala na konektory używające zsynchronizowanych danych, ale blokuje dostęp konektorów na żywo oraz działania zapisu konektorów. Niektóre połączone funkcje, w tym Finanse w ChatGPT i funkcje agentów zakupowych, są niedostępne w trybie blokady.
W przypadku zarządzanych przestrzeni roboczych aplikacje, MCP i konektory są kontrolowane przez ustawienia przestrzeni roboczej oraz kontrole dostępu oparte na rolach. Tryb blokady nie wyłącza automatycznie każdej aplikacji w tych przestrzeniach roboczych. Administratorzy przestrzeni roboczych powinni włączać tylko zaufane aplikacje i działania potrzebne członkom korzystającym z trybu blokady.
Podczas rozwiązywania problemów w zarządzanej przestrzeni roboczej przejrzyj razem rolę członka i ustawienia aplikacji. Członek może nie móc użyć aplikacji, konektora, MCP lub działania, jeśli:
członek lub grupa ma przypisaną rolę trybu blokady, która ogranicza wymaganą możliwość
aplikacja nie jest przypisana do członka, grupy lub roli
wymagane działanie odczytu lub zapisu nie jest włączone
członek nie ma dostępu do bazowego pliku, repozytorium, kanału, rekordu lub systemu źródłowego
Dostęp do aplikacji w ChatGPT nie zastępuje uprawnień w połączonym systemie źródłowym. Więcej informacji o przypisywaniu ról znajdziesz tutaj: RBAC.
Podczas konfigurowania aplikacji dla członków korzystających z trybu blokady administratorzy powinni brać pod uwagę ryzyko eksfiltracji danych dla każdej aplikacji i działania.
Wysokie ryzyko
Te aplikacje i działania nie są zalecane dla użytkowników w trybie blokady:
Działania odczytu lub zapisu dla niezaufanych aplikacji nie są zalecane. Włączaj tylko aplikacje, którym ufasz.
Działania zapisu dla zaufanych aplikacji o szerokiej lub niepewnej widoczności nie są zalecane. Unikaj włączania działań zapisu, nawet dla zaufanych aplikacji, jeśli nie możesz potwierdzić, że skutek uboczny jest ukryty przed złośliwym aktorem.
Średnie ryzyko
Używaj ich ostrożnie w przypadku użytkowników w trybie blokady:
Konektory synchronizacji wiążą się z niższym ryzykiem jako możliwy punkt docelowy eksfiltracji danych, ponieważ uzyskiwane dane są już zsynchronizowane z OpenAI, więc zapytania nie wysyłają żądań sieciowych na żywo poza OpenAI. Nadal mogą działać jako źródła danych wrażliwych, które złośliwy aktor może próbować eksfiltrować.
Działania odczytu dla zaufanych aplikacji wiążą się z niższym ryzykiem jako możliwy punkt docelowy eksfiltracji danych, ponieważ nie tworzą skutków ubocznych po stronie zapisu. Nadal mogą działać jako źródła danych wrażliwych, które złośliwy aktor może próbować eksfiltrować.
Działania zapisu dla zaufanych aplikacji o ograniczonej widoczności wiążą się z wyższym ryzykiem niż działania odczytu, ponieważ tworzą skutki uboczne. Włączaj je tylko wtedy, gdy masz pewność, że każdy skutek uboczny jest widoczny wyłącznie dla osób, którym ufasz, a nie dla złośliwego aktora.
Niezależnie od trybu blokady platforma dzienników Compliance API zapewnia szczegółowy wgląd w użycie aplikacji, udostępniane dane i połączone źródła, aby pomóc administratorom utrzymać nadzór. Więcej informacji o dziennikach użycia aplikacji znajdziesz tutaj: Compliance API dla klientów Enterprise.
Włącz tryb blokady
Konta osobiste i samoobsługowe konta ChatGPT Business
W przypadku kwalifikujących się kont osobistych i samoobsługowych kont ChatGPT Business:
Przejdź do Ustawień.
Wybierz Zabezpieczenia.
W sekcji Zaawansowane zabezpieczenia włącz tryb blokady.
W oknie potwierdzenia wybierz Włącz.
Trybu blokady i trybu deweloperskiego nie można używać jednocześnie. Włączenie trybu blokady wyłącza tryb deweloperski. Późniejsze włączenie trybu deweloperskiego wyłącza tryb blokady.
Gdy tryb blokady jest włączony, nad polem wpisywania pojawia się komunikat o stanie. Aby wyłączyć go tylko dla jednego czatu, wybierz Zarządzaj w tym komunikacie o stanie, a następnie wybierz Wyłącz dla tego czatu. Możesz też otworzyć menu więcej opcji (•••), wybrać Blokada, a następnie Wyłączone. Aby włączyć go ponownie dla tego czatu, wybierz Blokada, a następnie Włączone.
Zarządzane przestrzenie robocze
Administratorzy przestrzeni roboczych mogą utworzyć rolę niestandardową i wyznaczyć ją jako rolę „trybu blokady”, a następnie przypisać do niej członków lub grupy.
FAQ
Kto może włączyć tryb blokady?
Użytkownicy kwalifikujących się kont osobistych i samoobsługowych kont ChatGPT Business mogą włączyć tryb blokady w Ustawieniach > Zabezpieczenia, gdy jest dostępny dla ich konta. Administratorzy przestrzeni roboczych mogą włączyć tryb blokady dla członków zarządzanej przestrzeni roboczej za pomocą kontroli dostępu opartych na rolach.
Czy tryb blokady wyłącza trenowanie?
Nie. Tryb blokady nie zmienia tego, czy Twoje rozmowy mogą być używane do ulepszania modeli. Możesz zarządzać tym oddzielnie w kontrolach danych. Kontrole danych przestrzeni roboczej nadal zależą od planu i ustawień przestrzeni roboczej.
Czy mogę korzystać z generowania obrazu w trybie blokady?
Tak. Tryb blokady ogranicza obsługę obrazów w zwykłych odpowiedziach ChatGPT i obrazów pochodzących z internetu, ale nie wyłącza generowania obrazu.
Czy mogę wyłączyć tryb blokady dla jednego czatu?
Tak. Gdy tryb blokady jest włączony, wybierz kartę Blokada nad polem wpisywania, a następnie wybierz Wyłącz dla tego czatu. Możesz też otworzyć menu więcej opcji (•••), wybrać Blokada, a następnie Wyłączone. Zmienia to tylko bieżący czat.
Czy tryb blokady wpływa na Codex?
Nie. Tryb blokady nie wpływa na dostęp do sieci w Codex.
Czy tryb blokady zapobiega wszystkim atakom polegającym na wstrzykiwaniu poleceń?
Tryb blokady opracowano tak, aby znacznie ograniczyć ryzyko eksfiltracji danych za pomocą wstrzykiwania poleceń w ChatGPT i obsługiwanych produktach OpenAI, ale nie gwarantuje on, że do eksfiltracji danych nie dojdzie. Ryzyko może nadal wynikać z włączonych aplikacji, nieprzewidzianych kombinacji funkcji lub nowo odkrytych technik.
Tryb blokady nie zapobiega też wszystkim innym skutkom ataków polegających na wstrzykiwaniu poleceń. Na przykład złośliwa instrukcja ukryta w przesłanym pliku może nadal wpływać na działanie ChatGPT i spowodować udzielenie błędnej odpowiedzi.
Czy wstrzykiwanie poleceń stanowi poważne ryzyko?
Wstrzykiwanie poleceń nie jest obecnie poważnym ryzykiem, ale jego wpływ może rosnąć, gdy atakujący opracują bardziej zaawansowane metody.
Czy tryb blokady zmienia to, co jest rejestrowane na platformie dzienników Compliance API?
Nie. Platforma dzienników Compliance API zapewnia szczegółowy wgląd w użycie aplikacji, udostępniane dane i połączone źródła. Tryb blokady nie zmienia tych dzienników.