El mode de bloqueig s'està desplegant als comptes personals admesos, inclosos Free, Go, Plus i Pro, i als comptes ChatGPT Business d'autoservei. Si no veus el mode de bloqueig a la configuració, és possible que encara no estigui disponible per al teu compte.
Visió general
El mode de bloqueig és una configuració opcional de seguretat avançada que limita moltes eines i capacitats dels productes d'OpenAI que es poden connectar al web o a serveis externs. Està dissenyat per reduir el risc d'exfiltració de dades d'atacs d'injecció d'indicacions limitant les sol·licituds de xarxa sortints, a costa de desactivar o limitar algunes funcions útils.
El mode de bloqueig no està pensat per a tothom. Està dissenyat per a persones i organitzacions que gestionen dades sensibles i volen una protecció més estricta contra els riscos d'exfiltració de dades relacionats amb la injecció d'indicacions.
Disponibilitat
El mode de bloqueig està disponible per a tots els tipus de compte i espais de treball. Has d'haver iniciat la sessió per utilitzar-lo.
Com ajuda el mode de bloqueig a reduir el risc d'exfiltració de dades
La injecció d'indicacions és un problema de recerca d'avantguarda i complex, i treballem contínuament per reforçar els nostres sistemes de seguretat i protecció de diverses capes per protegir els usuaris d'aquests atacs.
El mode de bloqueig es basa en proteccions als nivells de model, producte i sistema. Això inclou l'aïllament en entorns sandbox, les proteccions contra l'exfiltració de dades basada en URL, la supervisió i l'aplicació de normes, i controls empresarials com l'accés basat en rols i els registres d'auditoria.
El mode de bloqueig està dissenyat per ajudar a evitar l'etapa final de l'exfiltració de dades d'un atac d'injecció d'indicacions limitant les sol·licituds de xarxa sortints que podrien transferir dades sensibles a un atacant. El mode de bloqueig no impedeix que apareguin injeccions d'indicacions en el contingut que processa ChatGPT. Per exemple, una injecció d'indicacions podria aparèixer en contingut web emmagatzemat a la memòria cau o en un fitxer carregat, i encara podria afectar el comportament o la precisió d'una resposta.
Concretament, per a qui té el mode de bloqueig activat, es desactiven les capacitats següents dels productes d'OpenAI:
Navegació web en directe: la navegació web es limita a accedir només a contingut emmagatzemat a la memòria cau. Els resultats de cerca poden ser limitats, no estar disponibles o estar obsolets.
Suport d'imatges: és possible que ChatGPT no mostri imatges en respostes habituals ni recuperi imatges del web. Els usuaris encara poden carregar fitxers d'imatge, i la generació d'imatges continua disponible allà on ja està disponible.
Recerca profunda: la recerca profunda està desactivada.
Mode agent: el mode agent està desactivat.
Xarxa del Llenç: els usuaris no poden aprovar que el codi generat pel Llenç accedeixi a la xarxa.
Baixades de fitxers: ChatGPT no pot baixar fitxers per a l'anàlisi de dades. ChatGPT encara pot treballar amb els fitxers que hagis carregat manualment.
El mode de bloqueig no canvia la memòria, les càrregues de fitxers, la capacitat de compartir una conversa ni si les teves converses es poden utilitzar per millorar els models. Moltes d'aquestes opcions de configuració es poden configurar per separat pels administradors de l'espai de treball.
El mode de bloqueig no afecta l'accés a la xarxa a Codex.
Aplicacions
La manera com funcionen les aplicacions i els connectors en el mode de bloqueig depèn del tipus de compte i de la configuració de l'espai de treball.
Per als comptes personals i els comptes ChatGPT Business d'autoservei, el mode de bloqueig permet connectors que fan servir dades sincronitzades, però bloqueja l'accés en directe dels connectors i les accions d'escriptura dels connectors. Algunes experiències connectades, com ara Finances a ChatGPT i les experiències d'agent de compres, no estan disponibles en el mode de bloqueig.
Per als espais de treball gestionats, les aplicacions, els MCP i els connectors es controlen mitjançant la configuració de l'espai de treball i els controls d'accés basats en rols. El mode de bloqueig no desactiva automàticament totes les aplicacions d'aquests espais de treball. Els administradors de l'espai de treball només haurien d'activar les aplicacions i accions de confiança que necessitin els membres que fan servir el mode de bloqueig.
Per resoldre problemes en espais de treball gestionats, revisa conjuntament el rol del membre i la configuració de l'aplicació. És possible que un membre no pugui utilitzar una aplicació, un connector, un MCP o una acció si:
el membre o grup està assignat a un rol de mode de bloqueig que limita la capacitat necessària
l'aplicació no està assignada al membre, grup o rol
l'acció de lectura o escriptura necessària no està activada
el membre no té accés al fitxer, repositori, canal, registre o sistema d'origen subjacent
L'accés a aplicacions a ChatGPT no anul·la els permisos del sistema d'origen connectat. Per obtenir més informació sobre l'assignació de rols, consulta: RBAC.
Quan configuren aplicacions per a membres que fan servir el mode de bloqueig, els administradors haurien de tenir en compte el risc d'exfiltració de dades de cada aplicació i acció.
Risc alt
Aquestes aplicacions i accions no es recomanen per als usuaris en mode de bloqueig:
No es recomanen les accions de lectura o escriptura per a aplicacions no fiables. Activa només les aplicacions en què confiïs.
No es recomanen les accions d'escriptura per a aplicacions de confiança amb visibilitat àmplia o incerta. Evita activar accions d'escriptura, fins i tot per a aplicacions de confiança, si no pots confirmar que l'efecte secundari queda ocult per a un actor maliciós.
Risc mitjà
Utilitza'ls amb precaució per als usuaris en mode de bloqueig:
Els connectors de sincronització tenen un risc més baix com a possible receptor d'exfiltració de dades perquè les dades a les quals s'accedeix ja estan sincronitzades amb OpenAI, de manera que les consultes no envien sol·licituds de xarxa en directe fora d'OpenAI. Encara poden actuar com a fonts de dades sensibles que un actor maliciós pot intentar exfiltrar.
Les accions de lectura per a aplicacions de confiança tenen un risc més baix com a possible receptor d'exfiltració de dades perquè no creen efectes secundaris d'escriptura. Encara poden actuar com a fonts de dades sensibles que un actor maliciós pot intentar exfiltrar.
Les accions d'escriptura per a aplicacions de confiança amb visibilitat limitada tenen més risc que les accions de lectura perquè creen efectes secundaris. Activa-les només quan tinguis la certesa que qualsevol efecte secundari només és visible per a persones de confiança, no per a un actor maliciós.
A banda del mode de bloqueig, la Compliance API Logs Platform proporciona visibilitat detallada de l'ús d'aplicacions, les dades compartides i les fonts connectades per ajudar els administradors a mantenir la supervisió. Per obtenir més informació sobre els registres d'ús d'aplicacions, consulta: API de compliment per a clients Enterprise.
Activa el mode de bloqueig
Comptes personals i comptes ChatGPT Business d'autoservei
Per als comptes personals admesos i els comptes ChatGPT Business d'autoservei:
Ves a Configuració.
Selecciona Seguretat.
A Seguretat avançada, activa el mode de bloqueig.
A la finestra modal de confirmació, selecciona Activa.
El mode de bloqueig i el mode de desenvolupador no es poden utilitzar alhora. Activar el mode de bloqueig desactiva el mode de desenvolupador. Activar el mode de desenvolupador més endavant desactiva el mode de bloqueig.
Quan el mode de bloqueig està activat, apareix un missatge d'estat damunt del quadre de redacció. Per desactivar-lo només per a un xat, selecciona Gestiona en aquest missatge d'estat i, després, selecciona Desactiva per a aquest xat. També pots obrir el menú de més opcions (•••), seleccionar Bloqueig i, després, seleccionar Desactivat. Per tornar-lo a activar per a aquest xat, selecciona Bloqueig i, després, selecciona Activat.
Espais de treball gestionats
Els administradors de l'espai de treball poden crear un rol personalitzat i designar-lo com a rol de «mode de bloqueig», i després assignar-hi membres o grups.
Preguntes freqüents
Qui pot activar el mode de bloqueig?
Els usuaris amb comptes personals admesos i comptes ChatGPT Business d'autoservei poden activar el mode de bloqueig a Configuració > Seguretat quan estigui disponible per al seu compte. Els administradors de l'espai de treball poden activar el mode de bloqueig per als membres d'espais de treball gestionats mitjançant controls d'accés basats en rols.
El mode de bloqueig desactiva l'entrenament?
No. El mode de bloqueig no canvia si les teves converses es poden utilitzar per millorar els models. Pots gestionar-ho per separat als controls de dades. Els controls de dades de l'espai de treball continuen depenent del pla i de la configuració de l'espai de treball.
Puc utilitzar la generació d'imatges en el mode de bloqueig?
Sí. El mode de bloqueig limita el suport d'imatges en les respostes habituals de ChatGPT i les imatges procedents del web, però no desactiva la generació d'imatges.
Puc desactivar el mode de bloqueig per a un xat?
Sí. Quan el mode de bloqueig estigui activat, selecciona la pestanya Bloqueig damunt del quadre de redacció i selecciona Desactiva per a aquest xat. També pots obrir el menú de més opcions (•••), seleccionar Bloqueig i, després, seleccionar Desactivat. Això només canvia el xat actual.
El mode de bloqueig afecta Codex?
No. El mode de bloqueig no afecta l'accés a la xarxa a Codex.
El mode de bloqueig impedeix tots els atacs d'injecció d'indicacions?
El mode de bloqueig està dissenyat per reduir substancialment el risc d'exfiltració de dades basada en la injecció d'indicacions a ChatGPT i als productes d'OpenAI compatibles, però no garanteix que l'exfiltració de dades no pugui passar. El risc pot persistir a través d'aplicacions activades, combinacions imprevistes de capacitats o tècniques descobertes recentment.
El mode de bloqueig tampoc no impedeix tots els altres efectes dels atacs d'injecció d'indicacions. Per exemple, una instrucció maliciosa oculta en un fitxer carregat encara podria afectar el comportament de ChatGPT i provocar una resposta incorrecta.
La injecció d'indicacions és un risc important?
Actualment, la injecció d'indicacions no és un risc important, però el seu impacte podria créixer a mesura que els atacants desenvolupin mètodes més sofisticats.
El mode de bloqueig canvia el que es registra a la Compliance API Logs Platform?
No. La Compliance API Logs Platform proporciona visibilitat detallada de l'ús d'aplicacions, les dades compartides i les fonts connectades. Aquests registres no es veuen modificats pel mode de bloqueig.