Omówienie
Tryb blokady może być dostępny na kwalifikujących się kontach osobistych, samoobsługowych kontach ChatGPT Business oraz w obsługiwanych zarządzanych przestrzeniach roboczych. Dostępność zależy od konta, przestrzeni roboczej, bieżącego etapu wdrażania produktu i ustawień administratora.
Tryb blokady to opcjonalne zaawansowane ustawienie zabezpieczeń, które ogranicza wiele narzędzi i funkcji produktów OpenAI mogących łączyć się z internetem lub usługami zewnętrznymi. Ma on ograniczać ryzyko eksfiltracji danych wskutek ataków polegających na wstrzykiwaniu poleceń poprzez ograniczenie wychodzących żądań sieciowych, kosztem wyłączenia lub ograniczenia niektórych przydatnych funkcji.
Tryb blokady nie jest przeznaczony dla wszystkich. Jest przeznaczony dla osób i organizacji, które przetwarzają dane wrażliwe i potrzebują skuteczniejszej ochrony przed ryzykiem eksfiltracji danych związanym z wstrzykiwaniem poleceń.
Dostępność
Tryb blokady wymaga zalogowania się na konto i jest dostępny tylko wtedy, gdy jest obsługiwany w ramach danego planu, przestrzeni roboczej, obszaru produktu i konfiguracji administratora.
Jak tryb blokady pomaga ograniczyć ryzyko eksfiltracji danych
Wstrzykiwanie poleceń jest trudnym problemem badawczym. Nieustannie wzmacniamy nasze wielowarstwowe systemy ochrony i bezpieczeństwa, aby chronić użytkowników przed takimi atakami.
Tryb blokady wykorzystuje zabezpieczenia na poziomie modelu, produktu i systemu. Obejmują one izolowanie w piaskownicy, ochronę przed eksfiltracją danych za pośrednictwem adresów URL, monitorowanie i egzekwowanie zasad oraz mechanizmy kontroli dla firm, takie jak dostęp oparty na rolach i dzienniki audytu.
Tryb blokady ma pomagać w zapobieganiu ostatniemu etapowi eksfiltracji danych w wyniku ataku polegającego na wstrzykiwaniu poleceń. Ogranicza wychodzące żądania sieciowe, które mogłyby posłużyć do przesłania danych wrażliwych atakującemu. Tryb blokady nie zapobiega pojawianiu się wstrzykniętych poleceń w treściach przetwarzanych przez ChatGPT. Wstrzyknięte polecenie może na przykład pojawić się w treści internetowej zapisanej w pamięci podręcznej lub w przesłanym pliku i nadal wpływać na zachowanie ChatGPT albo poprawność odpowiedzi.
Tryb blokady wyłącza lub ogranicza następujące funkcje produktów OpenAI:
Przeglądanie internetu na żywo: przeglądanie internetu jest ograniczone do treści zapisanych w pamięci podręcznej. Wyniki wyszukiwania mogą być ograniczone, niedostępne lub nieaktualne.
Obsługa obrazów: ChatGPT może nie wyświetlać obrazów w zwykłych odpowiedziach ani pobierać ich z internetu. Użytkownicy nadal mogą przesyłać pliki obrazów, a generowanie obrazu pozostaje dostępne tam, gdzie jest obsługiwane.
Głębokie badania: funkcja głębokich badań jest wyłączona.
Tryb agenta: tryb agenta jest wyłączony.
Dostęp obszaru roboczego do sieci: użytkownicy nie mogą zezwolić kodowi wygenerowanemu w obszarze roboczym na dostęp do sieci.
Pobieranie plików: ChatGPT nie może pobierać plików na potrzeby analizy danych. ChatGPT nadal może pracować z plikami przesłanymi ręcznie.
Tryb blokady nie zmienia działania pamięci ani przesyłania plików, możliwości udostępniania rozmowy czy zasad wykorzystywania rozmów do ulepszania modeli. Wiele z tych ustawień administratorzy przestrzeni roboczej mogą konfigurować oddzielnie.
Tryb blokady nie wpływa na dostęp do sieci w Codex.
Aplikacje
Sposób działania aplikacji i konektorów w trybie blokady zależy od typu konta oraz ustawień przestrzeni roboczej.
W przypadku kont osobistych i samoobsługowych kont ChatGPT Business tryb blokady uniemożliwia dostęp na żywo do usług zewnętrznych oraz wykonywanie przez konektory operacji zapisu, jeśli są one sprzeczne z jego zabezpieczeniami. Na kontach indywidualnych nie można skonfigurować synchronizacji aplikacji. W kwalifikującej się zarządzanej przestrzeni roboczej dostęp do istniejącego źródła zarządzanego przez administratora zależy również od uprawnień w przestrzeni roboczej i bieżących zasad trybu blokady. Niektóre połączone funkcje, w tym Finanse w ChatGPT oraz funkcje agentów zakupowych, są niedostępne w trybie blokady.
W zarządzanych przestrzeniach roboczych aplikacje, serwery MCP i konektory podlegają ustawieniom przestrzeni roboczej oraz kontroli dostępu opartej na rolach. Tryb blokady nie wyłącza automatycznie wszystkich aplikacji w tych przestrzeniach roboczych. Administratorzy przestrzeni roboczej powinni włączać tylko zaufane aplikacje i operacje potrzebne osobom korzystającym z trybu blokady.
Podczas rozwiązywania problemów w zarządzanej przestrzeni roboczej należy sprawdzić zarówno rolę użytkownika, jak i ustawienia aplikacji. Użytkownik może nie mieć możliwości skorzystania z aplikacji, konektora, serwera MCP lub operacji, jeśli:
użytkownikowi lub grupie przypisano rolę trybu blokady, która ogranicza wymaganą funkcję
aplikacja nie jest przypisana do użytkownika, grupy ani roli
wymagana operacja odczytu lub zapisu nie jest włączona
użytkownik nie ma dostępu do odpowiedniego pliku, repozytorium, kanału, rekordu ani systemu źródłowego
inna rola zapewnia wymaganą funkcję, ale rola trybu blokady nadal ją ogranicza. Aby przywrócić dostęp, właściciel przestrzeni roboczej musi usunąć użytkownika lub grupę z roli trybu blokady.
Dostęp do aplikacji w ChatGPT nie zastępuje uprawnień obowiązujących w połączonym systemie źródłowym. Więcej informacji o przypisywaniu ról znajdziesz tutaj: RBAC.
Podczas konfigurowania aplikacji dla osób korzystających z trybu blokady administratorzy powinni uwzględnić ryzyko eksfiltracji danych związane z każdą aplikacją i operacją.
Wysokie ryzyko
Te aplikacje i operacje nie są zalecane dla użytkowników trybu blokady:
Operacje odczytu i zapisu w niezaufanych aplikacjach nie są zalecane. Włączaj tylko zaufane aplikacje.
Operacje zapisu w zaufanych aplikacjach o szerokiej lub niepewnej widoczności nie są zalecane. Nie włączaj operacji zapisu nawet w zaufanych aplikacjach, jeśli nie możesz potwierdzić, że ich skutek uboczny jest niewidoczny dla atakującego.
Średnie ryzyko
W przypadku użytkowników trybu blokady należy ostrożnie korzystać z następujących funkcji:
Indeksowane źródła zarządzane przez administratora mogą ograniczyć część wychodzących żądań sieciowych, ponieważ treść jest pobierana z istniejącego indeksu, a nie bezpośrednio od dostawcy. Nadal mogą ujawniać informacje wrażliwe, a ich dostępność w trybie blokady zależy od przestrzeni roboczej, źródła i zasad bezpieczeństwa.
Operacje odczytu w zaufanych aplikacjach stwarzają mniejsze ryzyko jako potencjalny kanał eksfiltracji danych, ponieważ nie powodują skutków ubocznych związanych z zapisem. Nadal mogą stanowić źródło danych wrażliwych, które atakujący może próbować wykraść.
Operacje zapisu w zaufanych aplikacjach o ograniczonej widoczności stwarzają większe ryzyko niż operacje odczytu, ponieważ powodują skutki uboczne. Włączaj je tylko wtedy, gdy masz pewność, że wszelkie skutki uboczne są widoczne wyłącznie dla zaufanych osób, a nie dla atakującego.
Administratorzy kwalifikujących się planów Enterprise i Edu mogą używać dostępnych rekordów Platformy zgodności do sprawdzania obsługiwanej aktywności aplikacji, zależnie od konfiguracji i uprawnień przestrzeni roboczej. Szczegółowe informacje znajdziesz tutaj: Platforma zgodności OpenAI dla klientów Enterprise i Edu.
Włącz tryb blokady
Konta osobiste i samoobsługowe konta ChatGPT Business
W przypadku kwalifikujących się kont osobistych i samoobsługowych kont ChatGPT Business:
Przejdź do sekcji Ustawienia.
Wybierz Zabezpieczenia.
W sekcji Zabezpieczenia zaawansowane włącz Tryb blokady.
W oknie potwierdzenia wybierz Włącz.
Trybu blokady i trybu deweloperskiego nie można używać jednocześnie. Włączenie trybu blokady wyłącza tryb deweloperski. Późniejsze włączenie trybu deweloperskiego wyłącza tryb blokady.
Gdy tryb blokady jest włączony, możesz go wyłączyć dla jednego czatu. W przeglądarce wybierz etykietę TRYB BLOKADY w polu tworzenia wiadomości, a następnie wybierz Wyłącz dla tego czatu.
Aby zmienić ustawienie z poziomu menu czatu:
Otwórz menu dodatkowych opcji (•••).
Wybierz Blokada.
Wybierz Wyłączony, aby wyłączyć ten tryb dla bieżącego czatu, lub Włączony, aby włączyć go ponownie.
Aby otworzyć ustawienia Zabezpieczeń konta, wybierz Zarządzaj trybem blokady w oknie pola tworzenia wiadomości.
Zarządzane przestrzenie robocze
Administratorzy przestrzeni roboczych mogą utworzyć rolę niestandardową i wyznaczyć ją jako rolę „trybu blokady”, a następnie przypisać do niej członków lub grupy.
FAQ
Kto może włączyć tryb blokady?
Użytkownicy kwalifikujących się kont osobistych i samoobsługowych kont ChatGPT Business mogą włączyć tryb blokady w sekcji Ustawienia > Zabezpieczenia, jeśli jest on dostępny na ich koncie. Administratorzy przestrzeni roboczej mogą włączyć tryb blokady dla użytkowników zarządzanej przestrzeni roboczej za pomocą kontroli dostępu opartej na rolach.
Czy tryb blokady wyłącza trenowanie?
Nie. Tryb blokady nie zmienia tego, czy Twoje rozmowy mogą być używane do ulepszania modeli. Możesz zarządzać tym oddzielnie w kontrolach danych. Kontrole danych przestrzeni roboczej nadal zależą od planu i ustawień przestrzeni roboczej.
Czy mogę korzystać z generowania obrazu w trybie blokady?
Tak. Tryb blokady ogranicza obsługę obrazów w zwykłych odpowiedziach ChatGPT i obrazów pochodzących z internetu, ale nie wyłącza generowania obrazu.
Czy mogę wyłączyć tryb blokady dla jednego czatu?
Tak. W przeglądarce wybierz etykietę TRYB BLOKADY w polu tworzenia wiadomości, a następnie wybierz Wyłącz dla tego czatu. Możesz też zmienić to ustawienie z poziomu menu czatu zgodnie z powyższym opisem. Obie opcje zmieniają ustawienie tylko dla bieżącego czatu.
Czy tryb blokady wpływa na Codex?
Nie. Tryb blokady nie wpływa na dostęp do sieci w Codex.
Czy tryb blokady zapobiega wszystkim atakom polegającym na wstrzykiwaniu poleceń?
Tryb blokady ma znacznie ograniczać ryzyko eksfiltracji danych wskutek wstrzykiwania poleceń w ChatGPT i obsługiwanych produktach OpenAI, ale nie gwarantuje, że eksfiltracja danych jest niemożliwa. Ryzyko może nadal wynikać z włączonych aplikacji, nieprzewidzianych kombinacji funkcji lub nowo odkrytych technik.
Tryb blokady nie zapobiega też wszystkim innym skutkom ataków polegających na wstrzykiwaniu poleceń. Na przykład złośliwa instrukcja ukryta w przesłanym pliku może nadal wpłynąć na zachowanie ChatGPT i spowodować udzielenie nieprawidłowej odpowiedzi.
Czy wstrzykiwanie poleceń stanowi poważne zagrożenie?
Wstrzykiwanie poleceń jest znanym zagrożeniem, gdy system AI przetwarza niezaufane treści. Tryb blokady może ograniczyć niektóre drogi eksfiltracji danych, ale nie zapobiega wszystkim atakom polegającym na wstrzykiwaniu poleceń ani nie eliminuje wszystkich zagrożeń.
Czy tryb blokady zmienia zakres danych rejestrowanych na platformie dzienników Compliance API?
Sam tryb blokady nie zmienia dostępności rekordów Platformy zgodności. Dostęp do danych dotyczących zgodności i okres ich przechowywania zależą od kwalifikującej się przestrzeni roboczej, uprawnień administratora oraz odpowiednich ustawień produktu.