La Modalità di blocco è in fase di distribuzione per gli account personali idonei, inclusi quelli Free, Go, Plus e Pro, e per gli account ChatGPT Business self-service. Se non visualizzi la Modalità di blocco nelle impostazioni, potrebbe non essere ancora disponibile per il tuo account.
Panoramica
La Modalità di blocco è un'impostazione di sicurezza avanzata opzionale che limita molti strumenti e funzionalità nei prodotti OpenAI che possono connettersi al web o a servizi esterni. È progettata per ridurre il rischio di esfiltrazione dei dati da attacchi di iniezione di prompt limitando le richieste di rete in uscita, a costo di disabilitare o limitare alcune funzionalità utili.
La Modalità di blocco non è destinata a tutti. È progettata per persone e organizzazioni che gestiscono dati sensibili e desiderano una protezione più rigorosa dai rischi di esfiltrazione dei dati correlati all'iniezione di prompt.
Disponibilità
La Modalità di blocco è disponibile per tutti i tipi di account e tutte le aree di lavoro. È necessario aver effettuato l’accesso per utilizzarlo.
In che modo la Modalità di blocco consente di ridurre il rischio di esfiltrazione dei dati
L'iniezione di prompt è un problema di ricerca di frontiera e impegnativo, e stiamo lavorando costantemente per rafforzare i nostri sistemi multilivello di sicurezza per proteggere gli utenti da tali attacchi.
La Modalità di blocco si basa su protezioni a livello di modello, prodotto e sistema. Questo include il sandboxing, protezioni contro l'esfiltrazione di dati basata su URL, monitoraggio, applicazione delle regole e controlli aziendali come l'accesso basato sui ruoli e i log di audit.
La Modalità di blocco è progettata per contribuire a prevenire la fase finale dell'esfiltrazione dei dati da un attacco di iniezione di prompt, limitando le richieste di rete in uscita che potrebbero trasferire dati sensibili a un malintenzionato. La Modalità di blocco non impedisce che le iniezioni di prompt compaiano nei contenuti elaborati da ChatGPT. Ad esempio, un’iniezione di prompt potrebbe comparire nel contenuto web memorizzato nella cache o in un file caricato e potrebbe comunque influire sul comportamento o sull’accuratezza di una risposta.
Nello specifico, per chi utilizza la Modalità di blocco, le seguenti funzionalità dei prodotti OpenAI sono disabilitate:
Navigazione web in tempo reale: la navigazione web è limitata esclusivamente all'accesso ai contenuti memorizzati nella cache. I risultati di ricerca potrebbero essere limitati, non disponibili o obsoleti.
Supporto per le immagini: ChatGPT potrebbe non visualizzare immagini nelle risposte standard né recuperare immagini dal web. Gli utenti possono comunque caricare file immagine e la generazione di immagini resta disponibile laddove sia altrimenti disponibile.
Deep research: Deep research è disabilitato.
Modalità agente: la modalità agente è disabilitata.
Rete di Canvas: gli utenti non possono approvare il codice generato da Canvas per accedere alla rete.
Download di file: ChatGPT non è in grado di scaricare file per l'analisi dei dati. ChatGPT può comunque elaborare i file caricati manualmente.
La Modalità di blocco non modifica la memoria, il caricamento dei file, la possibilità di condividere una conversazione né il fatto che le conversazioni possano essere utilizzate per migliorare i modelli. Molte di queste impostazioni sono configurabili separatamente dagli amministratori dell'area di lavoro.
La Modalità di blocco non influisce sull'accesso alla rete in Codex.
App
Il funzionamento di app e connettori in modalità di blocco dipende dal tipo di account e dalle impostazioni dell’area di lavoro.
Per gli account personali e gli account ChatGPT Business self-service, la Modalità di blocco consente l'uso dei connettori che usano dati sincronizzati, ma blocca l'accesso live ai connettori e le azioni di scrittura dei connettori. Alcune esperienze connesse, tra cui Finanze in ChatGPT e le esperienze con agente per lo shopping, non sono disponibili in Modalità di blocco.
Per le aree di lavoro gestite, app, MCP e connettori sono controllati dalle impostazioni dell'area di lavoro e dai controlli di accesso basati sui ruoli. La Modalità di blocco non disabilita automaticamente tutte le app in queste aree di lavoro. Gli amministratori dell'area di lavoro dovrebbero abilitare solo le app e le azioni attendibili di cui hanno bisogno i membri che usano la Modalità di blocco.
Per la risoluzione dei problemi relativi all'area di lavoro gestita, esamina insieme il ruolo del membro e le impostazioni dell'app. Un membro potrebbe non essere in grado di utilizzare un’app, un connettore, MCP o un’azione se:
il membro o il gruppo è assegnato a un ruolo della Modalità di blocco che limita la capacità richiesta
l'app non è assegnata al membro, al gruppo o al ruolo
l'azione di lettura o scrittura richiesta non è abilitata
il membro non ha accesso al file sottostante, al repository, al canale, al record o al sistema di origine
L'accesso all'app in ChatGPT non prevale sulle autorizzazioni del sistema di origine collegato. Per ulteriori informazioni sull’assegnazione dei ruoli, vedere: RBAC.
Quando configurano le app per i membri che utilizzano la Modalità di blocco, gli amministratori devono considerare il rischio di esfiltrazione dei dati associato a ciascuna app e a ciascuna azione.
Rischio elevato
Queste app e azioni non sono consigliate per gli utenti in Modalità di blocco:
Azioni di lettura o scrittura per app non affidabili non sono consigliate. Abilita solo le app di cui ti fidi.
Le azioni di scrittura per app attendibili con visibilità ampia o incerta non sono raccomandate. Evita di abilitare le azioni di scrittura, anche per le app attendibili, se non puoi confermare che l'effetto collaterale sia nascosto a un malintenzionato.
Rischio medio
Da utilizzare con cautela per gli utenti in Modalità di blocco:
I connettori di sincronizzazione presentano un rischio inferiore come possibile punto di deflusso per l’esfiltrazione dei dati, perché i dati a cui si accede sono già sincronizzati con OpenAI; pertanto, le query non inviano richieste di rete in tempo reale all’esterno di OpenAI. Possono comunque fungere da fonti di dati sensibili che un soggetto malintenzionato potrebbe tentare di esfiltrare.
Azioni di lettura per app attendibili presentano un rischio inferiore come possibile punto di deflusso di esfiltrazione dei dati perché non creano effetti collaterali di scrittura. Possono comunque fungere da fonti di dati sensibili che un soggetto malintenzionato potrebbe tentare di esfiltrare.
Le azioni di scrittura per app attendibili con visibilità limitata comportano un rischio maggiore rispetto alle azioni di lettura perché generano effetti collaterali. Abilita queste solo quando hai la certezza che qualsiasi effetto collaterale sia visibile soltanto alle persone di cui ti fidi e non a un malintenzionato.
Separatamente dalla Modalità di blocco, la Piattaforma di log API per la conformità fornisce una visibilità dettagliata sull'utilizzo delle app, sui dati condivisi e sulle fonti connesse per aiutare gli amministratori a mantenere il controllo. Per ulteriori informazioni sui log di utilizzo delle app, vedere: API di conformità per i clienti Enterprise.
Attiva la Modalità di blocco
Account personali e account ChatGPT Business self-service
Per gli account personali idonei e gli account ChatGPT Business self-service:
Vai su Impostazioni.
Seleziona Sicurezza.
In Sicurezza avanzata, attiva Modalità di blocco.
Nella finestra modale di conferma, seleziona Attiva.
La Modalità di blocco e la Modalità sviluppatore non possono essere usate contemporaneamente. L’attivazione di Modalità di blocco disattiva la Modalità sviluppatore. L'attivazione successiva della Modalità sviluppatore disattiva la Modalità di blocco.
Quando la Modalità di blocco è attiva, viene visualizzato un messaggio di stato sopra l'area di composizione. Per disattivare questa opzione per una sola chat, seleziona Gestisci in quel messaggio di stato, quindi seleziona Disattiva per questa chat. Puoi anche aprire il menu Altre opzioni (•••), selezionare Modalità di blocco, quindi selezionare Disabilitato. Per riattivarlo per quella chat, seleziona Modalità di blocco, quindi seleziona Attivato.
Aree di lavoro gestite
Gli amministratori dell'area di lavoro possono creare un ruolo personalizzato e designarlo come ruolo “Modalità di blocco”, quindi assegnare membri o gruppi a quel ruolo.
FAQ
Chi può attivare la modalità di blocco?
Gli utenti con account personali idonei e account ChatGPT Business self-service possono attivare la Modalità di blocco in Impostazioni > Sicurezza quando è disponibile per il loro account. Gli amministratori dell'area di lavoro possono abilitare la Modalità di blocco per i membri gestiti dell'area di lavoro utilizzando i controlli di accesso basati sui ruoli.
La Modalità di blocco disattiva l'addestramento?
No. La Modalità di blocco non cambia il fatto che le conversazioni possano essere utilizzate per migliorare i modelli. È possibile gestirlo separatamente nei controlli dei dati. I controlli dei dati dell'area di lavoro continuano a dipendere dal piano e dalle impostazioni di quest'ultima.
Posso usare la generazione di immagini in Modalità di blocco?
Sì. La Modalità di blocco limita il supporto per le immagini nelle normali risposte di ChatGPT e per quelle provenienti dal web, ma non disattiva la generazione di immagini.
Posso disattivare la Modalità di blocco per una sola chat?
Sì. Quando la Modalità di blocco è attiva, seleziona la scheda Modalità di blocco sopra l’area di composizione e seleziona Disattiva per questa chat. Puoi anche aprire il menu Altre opzioni (•••), seleziona Modalità di blocco, quindi seleziona Disattiva. Questa modifica riguarda solo la chat corrente.
La Modalità di blocco influisce su Codex?
No. La Modalità di blocco non influisce sull'accesso alla rete in Codex.
La modalità di blocco impedisce tutti gli attacchi di iniezione di prompt?
La Modalità di blocco è progettata per ridurre in modo significativo il rischio di esfiltrazione dei dati basata sull'iniezione di prompt in ChatGPT e nei prodotti OpenAI supportati, ma non garantisce che l'esfiltrazione dei dati non possa verificarsi. Il rischio può persistere a causa di App abilitate, combinazioni impreviste di funzionalità o tecniche scoperte di recente.
La Modalità di blocco inoltre non impedisce tutti gli altri effetti degli attacchi di iniezione di prompt. Ad esempio, un'istruzione dannosa nascosta in un file caricato potrebbe comunque influenzare il comportamento di ChatGPT e causare una risposta errata.
L'iniezione di prompt rappresenta un rischio significativo?
L'iniezione di prompt non rappresenta attualmente un rischio significativo, ma il suo impatto potrebbe aumentare man mano che gli autori degli attacchi sviluppano metodi più sofisticati.
La modalità di blocco modifica i dati registrati nella Piattaforma di log API per la conformità?
No. La piattaforma di log API per la conformità offre una visibilità dettagliata sull'utilizzo delle app, sui dati condivisi e sulle fonti collegate. Questi log non vengono modificati dalla modalità di blocco.