Tổng quan
Chế độ Phong tỏa là một tùy chọn bảo mật nâng cao, khóa nhiều công cụ và khả năng của sản phẩm OpenAI, ngăn chúng truy cập mạng. Tính năng này cung cấp biện pháp bảo vệ mạnh, mang tính tất định trước các cuộc tấn công rò rỉ dữ liệu dựa trên chèn câu lệnh, đổi lại là nhiều tính năng hữu ích khác sẽ bị tắt hoặc hạn chế.
Chế độ Phong tỏa không dành cho tất cả mọi người mà được thiết kế để các tổ chức bảo vệ dữ liệu nhạy cảm của những thành viên hoạt động trong nhóm có rủi ro cao nhất trước các cuộc tấn công rò rỉ dữ liệu dựa trên chèn câu lệnh.
Khả dụng
Chế độ Phong tỏa hiện có cho ChatGPT Enterprise, Edu, ChatGPT for Healthcare và ChatGPT for Teachers.
Chúng tôi dự kiến cung cấp Chế độ Phong tỏa cho các gói ChatGPT dành cho người dùng cá nhân và nhóm trong vài tháng tới.
Chế độ Phong tỏa bảo vệ trước các cuộc tấn công rò rỉ dựa trên chèn câu lệnh như thế nào?
Chèn câu lệnh là một bài toán nghiên cứu tiên phong và đầy thách thức, và chúng tôi liên tục củng cố các hệ thống bảo mật và an toàn nhiều lớp để bảo vệ mọi người dùng trước những cuộc tấn công như vậy.
Với những người có nguy cơ cao nhất trước các cuộc tấn công này, Chế độ Phong tỏa cung cấp biện pháp bảo vệ bảo mật mang tính tất định bằng cách vô hiệu hóa nhiều công cụ và khả năng của sản phẩm OpenAI có bật mạng.
Chế độ Phong tỏa được xây dựng trên các biện pháp bảo vệ hiện có của chúng tôi ở cấp mô hình, sản phẩm và hệ thống. Điều này bao gồm sandboxing, các biện pháp bảo vệ chống rò rỉ dữ liệu dựa trên URL, giám sát và thực thi, cùng các biện pháp kiểm soát doanh nghiệp như truy cập dựa trên vai trò và nhật ký kiểm tra.
Cụ thể, với những người dùng ở Chế độ Phong tỏa, các khả năng sau của sản phẩm OpenAI sẽ bị vô hiệu hóa:
Duyệt web truy cập web trực tiếp: duyệt web bị giới hạn chỉ truy cập nội dung đã lưu trong bộ nhớ đệm. Điều này có nghĩa là khả năng này không thể được dùng để truyền dữ liệu nhạy cảm cho kẻ tấn công, nhưng cũng có nghĩa là kết quả tìm kiếm có thể phần nào bị hạn chế hoặc đã cũ.
Hỗ trợ hình ảnh: phản hồi của ChatGPT không thể bao gồm hình ảnh. Người dùng vẫn có thể tải tệp hình ảnh của riêng mình lên và vẫn có thể dùng khả năng tạo hình ảnh.
Nghiên cứu sâu: Nghiên cứu sâu bị vô hiệu hóa.
Chế độ tác nhân: Chế độ tác nhân bị vô hiệu hóa.
Kết nối mạng của Bảng làm việc: người dùng không thể phê duyệt mã do Bảng làm việc tạo để truy cập mạng.
Tải tệp xuống: ChatGPT không thể tải tệp xuống để phân tích dữ liệu. Lưu ý rằng ChatGPT vẫn có thể xử lý các tệp bạn tải lên thủ công.
Việc cấu hình các tính năng này theo cách này nhằm ngăn chúng bị dùng cho giai đoạn cuối của các cuộc tấn công rò rỉ dữ liệu do chèn câu lệnh dẫn dắt, bằng cách ngăn một cách tất định các yêu cầu mạng đi ra có thể được gửi tới kẻ tấn công để chuyển dữ liệu đó. Lưu ý rằng Chế độ Phong tỏa không ngăn một cách tất định việc chèn câu lệnh đi vào ngữ cảnh ngay từ đầu (ví dụ: chèn câu lệnh có thể nằm trong nội dung đã lưu đệm được truy cập qua duyệt web); thay vào đó, tính năng này được thiết kế để ngăn các yêu cầu mạng có thể được dùng để chuyển dữ liệu nhạy cảm cho kẻ tấn công.
Lưu ý rằng Chế độ Phong tỏa không ảnh hưởng đến bộ nhớ, tải tệp lên và khả năng chia sẻ cuộc trò chuyện. Nhiều mục trong số này có thể được quản trị viên không gian làm việc cấu hình độc lập.
Lưu ý rằng Chế độ Phong tỏa không ảnh hưởng đến quyền truy cập mạng trong Codex.
Chế độ Phong tỏa hoạt động với ứng dụng như thế nào?
Ứng dụng (bao gồm MCP và connector) có thể tương tác với internet, nên tiềm ẩn rủi ro bị kẻ tấn công lợi dụng cho các cuộc tấn công rò rỉ dữ liệu do chèn câu lệnh dẫn dắt, dù chúng tôi có nhiều lớp bảo mật và an toàn.
Vì nhiều quy trình làm việc quan trọng phụ thuộc vào các ứng dụng tin cậy cụ thể, Chế độ Phong tỏa không vô hiệu hóa ứng dụng; thay vào đó, chúng tôi khuyến nghị quản trị viên tổ chức cấu hình cẩn thận những ứng dụng nào và những hành động nào trong đó được bật, ở mức tối thiểu cần thiết.
Khi cấu hình ứng dụng cho thành viên đã bật Chế độ Phong tỏa, chúng tôi khuyến nghị quản trị viên tham khảo hướng dẫn sau về rủi ro rò rỉ dữ liệu của từng loại:
Rủi ro trung bình – thận trọng khi dùng cho người dùng ở Chế độ Phong tỏa:
Connector đồng bộ: connector đồng bộ có rủi ro thấp khi là “điểm đích” có thể bị lợi dụng trong các cuộc tấn công rò rỉ dữ liệu, vì dữ liệu được truy cập đã được đồng bộ tới OpenAI nên truy vấn không tạo ra yêu cầu mạng rời khỏi mạng OpenAI. Tuy vậy, chúng vẫn có thể đóng vai trò là nguồn dữ liệu nhạy cảm mà tác nhân xấu có thể cố gắng rò rỉ từ đó.
Hành động đọc của ứng dụng tin cậy: các hành động đọc trong ứng dụng tin cậy có rủi ro thấp khi là “điểm đích” có thể bị lợi dụng trong các cuộc tấn công rò rỉ dữ liệu. Tuy vậy, chúng vẫn có thể đóng vai trò là nguồn dữ liệu nhạy cảm mà tác nhân xấu có thể cố gắng rò rỉ từ đó.
Hành động ghi của ứng dụng tin cậy, khi hành động ghi đó được bảo đảm chỉ những người bạn tin cậy mới có thể truy cập: hành động ghi vốn dĩ rủi ro hơn hành động đọc vì chúng tạo ra tác động phụ có thể quan sát được. Chúng tôi đặc biệt khuyến nghị không bật bất kỳ hành động ghi nào trừ khi bạn rất chắc chắn rằng tác động phụ đó không thể bị bất kỳ tác nhân xấu nào quan sát.
Rủi ro cao – không khuyến nghị cho người dùng ở Chế độ Phong tỏa:
Hành động đọc hoặc ghi với ứng dụng không tin cậy: chúng tôi đặc biệt khuyến nghị không bật các ứng dụng mà bạn không tin cậy
Hành động ghi của ứng dụng tin cậy, khi hành động ghi đó không được bảo đảm chỉ những người bạn tin cậy mới có thể truy cập: chúng tôi đặc biệt khuyến nghị không bật hành động ghi, kể cả với ứng dụng bạn tin cậy, nếu bạn không hoàn toàn chắc chắn rằng tác động phụ của hành động ghi đó chắc chắn không thể bị bất kỳ tác nhân xấu nào quan sát.
Ngoài ra, và tách biệt với Chế độ Phong tỏa, **Nền tảng Nhật ký API Tuân thủ** cung cấp khả năng hiển thị chi tiết về việc sử dụng ứng dụng, dữ liệu được chia sẻ và các nguồn được kết nối để giúp quản trị viên duy trì giám sát khi năng lực AI mở rộng.
Bật Chế độ Phong tỏa cho thành viên không gian làm việc của bạn
Quản trị viên không gian làm việc có thể tạo một vai trò tùy chỉnh mới và chỉ định đó là vai trò “Chế độ Phong tỏa”, rồi gán một nhóm người dùng vào vai trò tùy chỉnh đó.
Câu hỏi thường gặp
Ai có thể bật Chế độ Phong tỏa?
Quản trị viên không gian làm việc có thể bật tính năng này trong Cài đặt không gian làm việc bằng cách dùng kiểm soát truy cập dựa trên vai trò.
Chế độ Phong tỏa có ngăn được mọi cuộc tấn công chèn câu lệnh không?
Chế độ Phong tỏa được thiết kế để giảm đáng kể rủi ro rò rỉ dữ liệu dựa trên chèn câu lệnh trong ChatGPT và Atlas, nhưng không đảm bảo điều đó không thể xảy ra, ví dụ thông qua các Ứng dụng đã bật hoặc những tổ hợp khả năng khác chưa được lường trước và mới được phát hiện. Ngoài ra, Chế độ Phong tỏa không ảnh hưởng đến các sản phẩm Codex của chúng tôi.
Ngoài ra, Chế độ Phong tỏa không ngăn được mọi tác động khác của các cuộc tấn công chèn câu lệnh; ví dụ, một cuộc tấn công độc hại ẩn trong tệp đã tải lên vẫn có thể ảnh hưởng đến hành vi của ChatGPT, chẳng hạn khiến ChatGPT trả lời sai câu hỏi của bạn.
Chế độ Phong tỏa có trên gói Plus, Pro, Free hoặc Teams không?
Chưa. Tính năng này hiện có cho Enterprise, Edu, Healthcare và Teachers. Chúng tôi dự kiến mở rộng khả dụng của tính năng này trong vài tháng tới.
Chế độ Phong tỏa có thay đổi những gì được ghi lại trong Nền tảng Nhật ký API Tuân thủ không?
Nền tảng Nhật ký API Tuân thủ cung cấp khả năng hiển thị chi tiết về việc sử dụng ứng dụng, dữ liệu được chia sẻ và các nguồn được kết nối. Các nhật ký này không bị ảnh hưởng bởi Chế độ Phong tỏa.