Panoramica
La Modalità di blocco potrebbe essere disponibile per gli account personali idonei, gli account ChatGPT Business self-service e le aree di lavoro gestite supportate. La disponibilità dipende dal tuo account, dalla tua area di lavoro, dall'attuale distribuzione del prodotto e dalle impostazioni dell'amministratore.
La Modalità di blocco è un'impostazione di sicurezza avanzata opzionale che limita molti strumenti e funzionalità nei prodotti OpenAI che possono collegarsi al web o a servizi esterni. È progettata per ridurre il rischio di esfiltrazione dei dati da attacchi di iniezione di prompt limitando le richieste di rete in uscita, a costo di disabilitare o limitare alcune funzionalità utili.
La Modalità di blocco non è destinata a tutti. È progettata per persone e organizzazioni che gestiscono dati sensibili e desiderano una protezione più rigorosa dai rischi di esfiltrazione dei dati correlati all'iniezione di prompt.
Disponibilità
La Modalità di blocco richiede l'accesso con un account ed è disponibile solo nei casi in cui sia supportata dal tuo piano, la tua area di lavoro, l'interfaccia del prodotto e la configurazione dell'amministratore.
In che modo la Modalità di blocco consente di ridurre il rischio di esfiltrazione dei dati
L'iniezione di prompt è un problema di ricerca complesso. Stiamo lavorando costantemente per rafforzare i nostri sistemi multilivello di sicurezza e protezione per proteggere gli utenti da simili attacchi.
La Modalità di blocco si basa su protezioni a livello di modello, prodotto e sistema. Questo include il sandboxing, protezioni contro l'esfiltrazione di dati basata su URL, monitoraggio, applicazione delle regole e controlli aziendali come l'accesso basato sui ruoli e i log di audit.
La Modalità di blocco è progettata per contribuire a prevenire la fase finale dell'esfiltrazione dei dati da un attacco con iniezione di prompt, limitando le richieste di rete in uscita che potrebbero trasferire dati sensibili a un malintenzionato. La Modalità di blocco non impedisce che le iniezioni di prompt compaiano nei contenuti elaborati da ChatGPT. Ad esempio, un’iniezione di prompt potrebbe comparire nel contenuto web memorizzato nella cache o in un file caricato e potrebbe comunque influire sul comportamento o sull’accuratezza di una risposta.
La Modalità di blocco disattiva o limita le seguenti funzionalità dei prodotti OpenAI:
Navigazione web in tempo reale: la navigazione web è limitata esclusivamente ai contenuti memorizzati nella cache. I risultati di ricerca potrebbero essere limitati, non disponibili o obsoleti.
Supporto per le immagini: ChatGPT potrebbe non visualizzare immagini nelle risposte standard né recuperare immagini dal web. Gli utenti possono comunque caricare file immagine e la generazione di immagini resta disponibile laddove sia altrimenti disponibile.
Deep research: Deep research è disabilitato.
Modalità agente: la modalità agente è disabilitata.
Rete di Canvas: gli utenti non possono approvare il codice generato da Canvas per accedere alla rete.
Download di file: ChatGPT non è in grado di scaricare file per l'analisi dei dati. ChatGPT può comunque elaborare i file caricati manualmente.
La Modalità di blocco non modifica la memoria, il caricamento dei file, la possibilità di condividere una conversazione né il fatto che le conversazioni possano essere utilizzate per migliorare i modelli. Molte di queste impostazioni sono configurabili separatamente dagli amministratori dell'area di lavoro.
La Modalità di blocco non influisce sull'accesso alla rete in Codex.
App
Il funzionamento di app e connettori in Modalità di blocco dipende dal tipo di account e dalle impostazioni dell’area di lavoro.
Per gli account personali e gli account ChatGPT Business self-service, la Modalità di blocco arresta l'accesso in tempo reale ai servizi esterni e le azioni di scrittura dei connettori quando tali azioni sono in conflitto con le relative protezioni di sicurezza. Gli account individuali non possono configurare la sincronizzazione delle app. In un'area di lavoro gestita idonea, l'accesso a un'origine esistente gestita dall'admin dipende anche dalle autorizzazioni dell'area di lavoro e dal criterio corrente della Modalità di blocco. Alcune esperienze connesse, tra cui Finanze in ChatGPT e le esperienze con agente per lo shopping, non sono disponibili in Modalità di blocco.
Invece le aree di lavoro gestite, app, MCP e connettori sono controllati dalle impostazioni dell'area di lavoro e dai controlli di accesso basati sui ruoli. La Modalità di blocco non disabilita automaticamente tutte le app in queste aree di lavoro. Gli admin dell'area di lavoro dovrebbero abilitare solo le app e le azioni attendibili di cui hanno bisogno i membri che usano la Modalità di blocco.
Per la risoluzione dei problemi relativi all'area di lavoro gestita, esamina insieme il ruolo del membro e le impostazioni dell'app. Un membro potrebbe non essere in grado di utilizzare un’app, un connettore, MCP o un’azione se:
il membro o il gruppo è assegnato a un ruolo della Modalità di blocco che limita la capacità richiesta
l'app non è assegnata al membro, al gruppo o al ruolo
l'azione di lettura o scrittura richiesta non è abilitata
il membro non ha accesso al file sottostante, al repository, al canale, al record o al sistema di origine
un altro ruolo concede la capacità richiesta, ma un ruolo della Modalità di blocco la limita comunque. Un proprietario dell'area di lavoro deve rimuovere il membro o il gruppo dal ruolo della Modalità di blocco per ripristinare l'accesso.
L'accesso all'app in ChatGPT non prevale sulle autorizzazioni del sistema di origine collegato. Per ulteriori informazioni sull’assegnazione dei ruoli, vedere: RBAC.
Quando configurano le app per i membri che utilizzano la Modalità di blocco, gli amministratori devono considerare il rischio di esfiltrazione dei dati associato a ciascuna app e a ciascuna azione.
Rischio elevato
Queste app e azioni non sono consigliate per gli utenti in Modalità di blocco:
Non sono consigliate azioni di lettura o scrittura per app non affidabili. Abilita solo le app di cui ti fidi.
Le azioni di scrittura per app attendibili con visibilità ampia o incerta non sono raccomandate. Evita di abilitare le azioni di scrittura, anche per le app attendibili, se non puoi confermare che l'effetto collaterale sia nascosto a un malintenzionato.
Rischio medio
Da utilizzare con cautela per gli utenti in Modalità di blocco:
Le fonti indicizzate gestite dall’amministratore possono ridurre alcune richieste di rete in uscita perché il contenuto viene recuperato da un indice esistente anziché tramite una chiamata in tempo reale al provider. Possono comunque esporre informazioni sensibili e la disponibilità in modalità di blocco dipende dall’area di lavoro, dalla fonte e dal criterio di sicurezza.
Le azioni di lettura delle app attendibili presentano un rischio inferiore come possibile punto di deflusso per l'esfiltrazione dei dati perché non creano effetti collaterali di scrittura. Possono comunque fungere da fonti di dati sensibili che un soggetto malintenzionato potrebbe tentare di esfiltrare.
Le azioni di scrittura per app attendibili con visibilità limitata comportano un rischio maggiore rispetto alle azioni di lettura perché generano effetti collaterali. Abilita queste solo quando hai la certezza che qualsiasi effetto collaterale sia visibile soltanto alle persone di cui ti fidi e non a un malintenzionato.
Gli admin Enterprise ed Edu idonei possono utilizzare i registri disponibili della Piattaforma di conformità per esaminare l'attività delle app supportate, in base alla configurazione e alle autorizzazioni dell'area di lavoro. Per dettagli, consulta: Piattaforma di conformità di OpenAI per clienti Enterprise ed Edu.
Attiva la Modalità di blocco
Account personali e account ChatGPT Business self-service
Per gli account personali idonei e gli account ChatGPT Business self-service:
Vai su Impostazioni.
Seleziona Sicurezza.
In Sicurezza avanzata, attiva Modalità di blocco.
Nella finestra modale di conferma, seleziona Attiva.
La Modalità di blocco e la Modalità sviluppatore non possono essere usate contemporaneamente. L’attivazione della Modalità di blocco disattiva la Modalità sviluppatore. L'attivazione successiva della Modalità sviluppatore disattiva la Modalità di blocco.
Quando la Modalità di blocco è attiva, puoi disattivarla per una singola chat. Sul web, seleziona l’etichetta MODALITÀ DI BLOCCO nell’area di composizione, quindi seleziona Disattiva per questa chat.
Per modificare l'impostazione dal menu della chat:
Apri il menu Altre opzioni (•••).
Seleziona Blocco.
Seleziona Disattivato per disattivarla in questa chat, oppure Attivato per riattivarla.
Per aprire le impostazioni di Sicurezza del tuo account, seleziona Gestisci il blocco nella finestra di dialogo di composizione.
Aree di lavoro gestite
Gli amministratori dell'area di lavoro possono creare un ruolo personalizzato e designarlo come ruolo “Modalità di blocco”, quindi assegnare membri o gruppi a quel ruolo.
FAQ
Chi può attivare la modalità di blocco?
Gli utenti con account personali idonei e account ChatGPT Business self-service possono attivare la Modalità di blocco in Impostazioni > Sicurezza quando è disponibile per il loro account. Gli amministratori dell'area di lavoro possono abilitare la Modalità di blocco per i membri gestiti dell'area di lavoro utilizzando i controlli di accesso basati sui ruoli.
La Modalità di blocco disattiva l'addestramento?
No. La Modalità di blocco non cambia il fatto che le conversazioni possano essere utilizzate per migliorare i modelli. È possibile gestirlo separatamente nei controlli dei dati. I controlli dei dati dell'area di lavoro continuano a dipendere dal piano e dalle impostazioni di quest'ultima.
Posso usare la generazione di immagini in Modalità di blocco?
Sì. La Modalità di blocco limita il supporto per le immagini nelle normali risposte di ChatGPT e per quelle provenienti dal web, ma non disattiva la generazione di immagini.
Posso disattivare la Modalità di blocco per una sola chat?
Sì. Seleziona l’etichetta Modalità di blocco nell’area di composizione web, quindi seleziona Disattiva per questa chat. Puoi anche modificare l'impostazione dal menu della chat come descritto sopra. Entrambe le opzioni riguardano solo la chat corrente.
La Modalità di blocco influisce su Codex?
No. La Modalità di blocco non influisce sull'accesso alla rete in Codex.
La modalità di blocco impedisce tutti gli attacchi di iniezione di prompt?
La Modalità di blocco è progettata per ridurre in modo significativo il rischio di esfiltrazione dei dati basata sull'iniezione di promptin ChatGPT e nei prodotti OpenAI supportati, ma non garantisce che l'esfiltrazione dei dati non possa verificarsi. Il rischio può persistere a causa di app abilitate, combinazioni impreviste di funzionalità o tecniche scoperte di recente.
La Modalità di blocco inoltre non impedisce tutti gli altri effetti degli attacchi con iniezione di prompt. Ad esempio, un'istruzione dannosa nascosta in un file caricato potrebbe comunque influenzare il comportamento di ChatGPT e causare una risposta errata.
L'iniezione di prompt rappresenta un rischio significativo?
L'iniezione di prompt è un rischio di sicurezza noto quando un sistema di IA elabora contenuti non attendibili. La Modalità di blocco può ridurre alcuni percorsi di esfiltrazione dei dati, ma non previene ogni attacco di iniezione di prompt né elimina tutti i rischi per la sicurezza.
La modalità di blocco modifica i dati registrati nella Piattaforma di log API per la conformità?
La Modalità di blocco non modifica di per sé quali registri della Piattaforma di conformità sono disponibili. L'accesso ai dati di conformità e la relativa conservazione dipendono dall'area di lavoro idonea, dalle autorizzazioni dell'amministratore e dalle impostazioni applicabili del prodotto.