Επισκόπηση
Η Λειτουργία αποκλεισμού είναι μια προαιρετική προηγμένη ρύθμιση ασφαλείας που κλειδώνει πολλά εργαλεία και δυνατότητες των προϊόντων της OpenAI, εμποδίζοντάς τα να αποκτούν πρόσβαση στο δίκτυο. Παρέχει ισχυρή ντετερμινιστική προστασία έναντι επιθέσεων εξαγωγής δεδομένων που βασίζονται σε επίθεση μέσω έγχυσης προτροπών, με αντάλλαγμα την απενεργοποίηση ή τον περιορισμό πολλών κατά τα άλλα χρήσιμων λειτουργιών.
Η Λειτουργία αποκλεισμού δεν προορίζεται για όλους, αλλά έχει σχεδιαστεί για να προστατεύει τους οργανισμούς και τα ευαίσθητα δεδομένα των μελών που λειτουργούν με τον υψηλότερο κίνδυνο επιθέσεων εξαγωγής δεδομένων που βασίζονται σε επίθεση μέσω έγχυσης προτροπών.
Διαθεσιμότητα
Η Λειτουργία αποκλεισμού είναι διαθέσιμη για τα ChatGPT Enterprise, Edu, ChatGPT for Healthcare και ChatGPT for Teachers.
Σχεδιάζουμε να καταστήσουμε τη Λειτουργία αποκλεισμού διαθέσιμη στα προγράμματα καταναλωτών και ομάδων του ChatGPT τους επόμενους μήνες.
Πώς προστατεύει η Λειτουργία αποκλεισμού από επιθέσεις εξαγωγής που βασίζονται σε επίθεση μέσω έγχυσης προτροπών;
Η επίθεση μέσω έγχυσης προτροπών είναι ένα πρωτοποριακό και απαιτητικό ερευνητικό πρόβλημα, και εργαζόμαστε συνεχώς για να ενισχύουμε τα πολυεπίπεδα συστήματα ασφάλειας και προστασίας μας ώστε να προστατεύουμε όλους τους χρήστες από τέτοιες επιθέσεις.
Για όσους διατρέχουν τον μεγαλύτερο κίνδυνο από τέτοιες επιθέσεις, η Λειτουργία αποκλεισμού παρέχει ντετερμινιστικές προστασίες ασφαλείας απενεργοποιώντας πολλά εργαλεία και δυνατότητες των προϊόντων της OpenAI που έχουν πρόσβαση στο δίκτυο.
Η Λειτουργία αποκλεισμού βασίζεται στις υπάρχουσες προστασίες μας σε επίπεδο μοντέλου, προϊόντος και συστήματος. Αυτό περιλαμβάνει απομόνωση, προστασίες έναντι εξαγωγής δεδομένων μέσω URL, παρακολούθηση και επιβολή, καθώς και εταιρικούς ελέγχους όπως πρόσβαση βάσει ρόλων και αρχεία ελέγχου.
Συγκεκριμένα, για όσους βρίσκονται σε Λειτουργία αποκλεισμού, οι ακόλουθες δυνατότητες των προϊόντων της OpenAI απενεργοποιούνται:
Περιήγηση στον ιστό με πρόσβαση στον ζωντανό ιστό: η περιήγηση στον ιστό περιορίζεται μόνο στην πρόσβαση σε περιεχόμενο προσωρινής μνήμης. Αυτό σημαίνει ότι αυτή η δυνατότητα δεν μπορεί να χρησιμοποιηθεί για τη μετάδοση ευαίσθητων δεδομένων σε έναν επιτιθέμενο, αν και σημαίνει επίσης ότι τα αποτελέσματα αναζήτησης μπορεί να είναι κάπως περιορισμένα ή παρωχημένα.
Υποστήριξη εικόνας: οι απαντήσεις του ChatGPT δεν μπορούν να περιλαμβάνουν εικόνες. Οι χρήστες μπορούν ακόμη να ανεβάζουν τα δικά τους αρχεία εικόνας και να χρησιμοποιούν τη δυνατότητα δημιουργία εικόνας.
Έρευνα σε βάθος: η έρευνα σε βάθος είναι απενεργοποιημένη.
Λειτουργία πράκτορα: η Λειτουργία πράκτορα είναι απενεργοποιημένη.
Δικτύωση Καμβά: οι χρήστες δεν μπορούν να εγκρίνουν κώδικα που δημιουργείται από τον Καμβά για πρόσβαση στο δίκτυο.
Λήψεις αρχείων: το ChatGPT δεν μπορεί να κατεβάζει αρχεία για ανάλυση δεδομένων. Σημειώστε ότι το ChatGPT μπορεί ακόμη να λειτουργεί πάνω στα αρχεία που ανεβάζετε χειροκίνητα.
Η ρύθμιση αυτών των λειτουργιών με αυτόν τον τρόπο έχει σχεδιαστεί ώστε να αποτρέπει τη χρήση τους για το τελικό στάδιο επιθέσεων εξαγωγής δεδομένων που καθοδηγούνται από επίθεση μέσω έγχυσης προτροπών, αποτρέποντας ντετερμινιστικά εξερχόμενα αιτήματα δικτύου που θα μπορούσαν να σταλούν στον επιτιθέμενο για τη μεταφορά τέτοιων δεδομένων. Σημειώστε ότι η Λειτουργία αποκλεισμού δεν αποτρέπει ντετερμινιστικά τις επιθέσεις μέσω έγχυσης προτροπών από το να φτάσουν εξαρχής στο περιβάλλον συμφραζομένων (π.χ. μια επίθεση μέσω έγχυσης προτροπών θα μπορούσε να βρίσκεται σε περιεχόμενο προσωρινής μνήμης στο οποίο γίνεται πρόσβαση μέσω περιήγησης στον ιστό)· αντίθετα, έχει σχεδιαστεί για να αποτρέπει αιτήματα δικτύου που θα μπορούσαν να χρησιμοποιηθούν για τη μεταφορά ευαίσθητων δεδομένων σε έναν επιτιθέμενο.
Σημειώστε ότι η Λειτουργία αποκλεισμού δεν επηρεάζει τη μνήμη, τις μεταφορτώσεις αρχείων και τη δυνατότητα κοινοποίησης της συνομιλίας. Πολλά από αυτά μπορούν να ρυθμιστούν ανεξάρτητα από τους διαχειριστές χώρου εργασίας.
Σημειώστε ότι η Λειτουργία αποκλεισμού δεν επηρεάζει την πρόσβαση στο δίκτυο στο Codex.
Πώς λειτουργεί η Λειτουργία αποκλεισμού με τις εφαρμογές;
Οι εφαρμογές (συμπεριλαμβανομένων των MCP και των συνδέσεων) μπορούν να αλληλεπιδρούν με το διαδίκτυο, επομένως ενέχουν πιθανό κίνδυνο χρήσης από επιτιθέμενους για επιθέσεις εξαγωγής δεδομένων που καθοδηγούνται από επίθεση μέσω έγχυσης προτροπών, παρά τις διάφορες πολυεπίπεδες προστασίες ασφαλείας και προστασίας που διαθέτουμε.
Καθώς πολλές σημαντικές ροές εργασίας βασίζονται σε συγκεκριμένες αξιόπιστες εφαρμογές, η Λειτουργία αποκλεισμού δεν απενεργοποιεί τις εφαρμογές· αντίθετα, συνιστάται στους διαχειριστές οργανισμού να ρυθμίζουν προσεκτικά ποιες εφαρμογές και ποιες ενέργειες μέσα σε αυτές είναι ενεργοποιημένες, στο απολύτως ελάχιστο σύνολο που απαιτείται.
Κατά τη ρύθμιση εφαρμογών για μέλη με ενεργοποιημένη τη Λειτουργία αποκλεισμού, συνιστούμε στους διαχειριστές να εξετάσουν τον παρακάτω οδηγό που περιγράφει τον κίνδυνο εξαγωγής δεδομένων για καθεμία:
Μέτριος κίνδυνος – χρήση με προσοχή για χρήστες σε Λειτουργία αποκλεισμού:
Συνδέσεις συγχρονισμού: οι συνδέσεις συγχρονισμού έχουν χαμηλό κίνδυνο ως πιθανός «δέκτης» για επιθέσεις εξαγωγής δεδομένων, καθώς τα δεδομένα στα οποία γίνεται πρόσβαση συγχρονίζονται με την OpenAI, οπότε τα ερωτήματα δεν οδηγούν σε αιτήματα δικτύου που εξέρχονται από το δίκτυο της OpenAI. Ωστόσο, μπορούν ακόμη να λειτουργούν ως πηγές ευαίσθητων δεδομένων, από τις οποίες κακόβουλοι παράγοντες μπορεί να επιχειρήσουν να τα εξαγάγουν από.
Ενέργειες ανάγνωσης αξιόπιστων εφαρμογών: οι ενέργειες ανάγνωσης μέσα σε αξιόπιστες εφαρμογές έχουν χαμηλό κίνδυνο ως πιθανός «δέκτης» για επιθέσεις εξαγωγής δεδομένων. Ωστόσο, μπορούν ακόμη να λειτουργούν ως πηγές ευαίσθητων δεδομένων από τις οποίες κακόβουλοι παράγοντες μπορεί να επιχειρήσουν να εξαγάγουν δεδομένα.
Ενέργειες εγγραφής αξιόπιστων εφαρμογών, όπου είναι εγγυημένο ότι η ενέργεια εγγραφής είναι προσβάσιμη μόνο σε όσους εμπιστεύεστε: οι ενέργειες εγγραφής είναι εγγενώς πιο επικίνδυνες από τις ενέργειες ανάγνωσης, καθώς προκαλούν μια παρατηρήσιμη παρενέργεια. Συνιστούμε ανεπιφύλακτα να μην ενεργοποιείτε καμία ενέργεια εγγραφής, εκτός αν είστε απόλυτα βέβαιοι ότι η παρενέργεια δεν είναι παρατηρήσιμη από κανέναν πιθανό κακόβουλο παράγοντα.
Υψηλός κίνδυνος – δεν συνιστάται για χρήστες σε Λειτουργία αποκλεισμού:
Ενέργειες ανάγνωσης ή εγγραφής σε μη αξιόπιστες εφαρμογές: συνιστούμε ανεπιφύλακτα να μην ενεργοποιείτε εφαρμογές που δεν εμπιστεύεστε
Ενέργειες εγγραφής αξιόπιστων εφαρμογών, όπου δεν είναι εγγυημένο ότι η ενέργεια εγγραφής είναι προσβάσιμη μόνο σε όσους εμπιστεύεστε: συνιστούμε ανεπιφύλακτα να μην ενεργοποιείτε ενέργειες εγγραφής, ακόμη και σε εφαρμογές που εμπιστεύεστε, αν δεν έχετε πλήρη βεβαιότητα ότι η παρενέργεια μιας τέτοιας ενέργειας εγγραφής σίγουρα δεν είναι παρατηρήσιμη από κανέναν πιθανό κακόβουλο παράγοντα.
Επιπλέον, και ανεξάρτητα από τη Λειτουργία αποκλεισμού, η **πλατφόρμα αρχείων καταγραφής Compliance API** παρέχει λεπτομερή ορατότητα στη χρήση εφαρμογών, στα κοινόχρηστα δεδομένα και στις συνδεδεμένες πηγές, ώστε να βοηθά τους διαχειριστές να διατηρούν εποπτεία καθώς επεκτείνονται οι δυνατότητες της TN.
Ενεργοποίηση της Λειτουργίας αποκλεισμού για τα μέλη του χώρου εργασίας σας
Οι διαχειριστές χώρου εργασίας μπορούν να δημιουργήσουν έναν νέο προσαρμοσμένο ρόλο και να τον ορίσουν ως ρόλο «Λειτουργία αποκλεισμού» και στη συνέχεια να αντιστοιχίσουν μια ομάδα χρηστών σε αυτόν τον προσαρμοσμένο ρόλο.
Συχνές ερωτήσεις
Ποιος μπορεί να ενεργοποιήσει τη Λειτουργία αποκλεισμού;
Οι διαχειριστές χώρου εργασίας μπορούν να την ενεργοποιήσουν στις Ρυθμίσεις χώρου εργασίας χρησιμοποιώντας ελέγχους πρόσβασης βάσει ρόλων.
Η Λειτουργία αποκλεισμού αποτρέπει όλες τις επιθέσεις μέσω έγχυσης προτροπών;
Η Λειτουργία αποκλεισμού έχει σχεδιαστεί ώστε να μειώνει σημαντικά τον κίνδυνο εξαγωγής δεδομένων που βασίζεται σε επίθεση μέσω έγχυσης προτροπών στο ChatGPT και στο Atlas, αλλά δεν εγγυάται ότι αυτό δεν μπορεί να συμβεί, για παράδειγμα μέσω ενεργοποιημένων εφαρμογών ή απρόβλεπτων και νεοανακαλυφθέντων συνδυασμών άλλων δυνατοτήτων. Επιπλέον, η Λειτουργία αποκλεισμού δεν επηρεάζει τα προϊόντα Codex μας.
Επιπλέον, η Λειτουργία αποκλεισμού δεν αποτρέπει όλες τις άλλες επιπτώσεις των επιθέσεων μέσω έγχυσης προτροπών· για παράδειγμα, μια κακόβουλη επίθεση κρυμμένη σε ένα μεταφορτωμένο αρχείο θα μπορούσε ακόμη να επηρεάσει τη συμπεριφορά του ChatGPT, για παράδειγμα προκαλώντας το ChatGPT να απαντήσει λανθασμένα στην ερώτησή σας.
Είναι διαθέσιμη η Λειτουργία αποκλεισμού στα Plus, Pro, Free ή Teams;
Όχι ακόμη. Είναι διαθέσιμη για Enterprise, Edu, Healthcare και Teachers. Σχεδιάζουμε να επεκτείνουμε τη διαθεσιμότητά της τους επόμενους μήνες.
Η Λειτουργία αποκλεισμού αλλάζει τι καταγράφεται στην πλατφόρμα αρχείων καταγραφής Compliance API;
Η πλατφόρμα αρχείων καταγραφής Compliance API παρέχει λεπτομερή ορατότητα στη χρήση εφαρμογών, στα κοινόχρηστα δεδομένα και στις συνδεδεμένες πηγές. Αυτά τα αρχεία καταγραφής δεν επηρεάζονται από τη Λειτουργία αποκλεισμού.