Descripció general
El mode de bloqueig pot estar disponible per als comptes personals aptes, els comptes d'autoservei de ChatGPT Business i els espais de treball gestionats compatibles. La disponibilitat depèn del compte, de l'espai de treball, del desplegament actual del producte i de la configuració de l'administrador.
El mode de bloqueig és una configuració opcional de seguretat avançada que limita moltes eines i capacitats dels productes d'OpenAI que es poden connectar al web o a serveis externs. Està dissenyat per reduir el risc d'exfiltració de dades derivat dels atacs d'injecció d'indicacions mitjançant la limitació de les sol·licituds de xarxa sortints, tot i que això desactiva o limita algunes funcions útils.
El mode de bloqueig no està pensat per a tothom. Està dissenyat per a persones i organitzacions que gestionen dades sensibles i volen una protecció més estricta contra els riscos d'exfiltració de dades relacionats amb la injecció d'indicacions.
Disponibilitat
El mode de bloqueig requereix haver iniciat la sessió en un compte i només està disponible quan és compatible amb el pla, l'espai de treball, la interfície del producte i la configuració de l'administrador.
Com ajuda el mode de bloqueig a reduir el risc d'exfiltració de dades
La injecció d'indicacions és un problema de recerca complex. Treballem contínuament per reforçar els nostres sistemes de seguretat de diverses capes i protegir els usuaris d'aquests atacs.
El mode de bloqueig es basa en proteccions aplicades als nivells del model, del producte i del sistema. Això inclou l'aïllament en entorns restringits, les proteccions contra l'exfiltració de dades mitjançant URL, la supervisió i l'aplicació de normes, i controls empresarials com l'accés basat en rols i els registres d'auditoria.
El mode de bloqueig està dissenyat per ajudar a evitar l'etapa final de l'exfiltració de dades en un atac d'injecció d'indicacions, ja que limita les sol·licituds de xarxa sortints que podrien transferir dades sensibles a un atacant. El mode de bloqueig no evita que apareguin injeccions d'indicacions al contingut que processa ChatGPT. Per exemple, una injecció d'indicacions podria aparèixer en contingut web emmagatzemat a la memòria cau o en un fitxer pujat, i encara podria afectar el comportament o la precisió d'una resposta.
El mode de bloqueig desactiva o limita les capacitats següents dels productes d'OpenAI:
Navegació web en directe: la navegació web es limita al contingut emmagatzemat a la memòria cau. Els resultats de cerca poden ser limitats, no estar disponibles o estar desactualitzats.
Compatibilitat amb imatges: és possible que ChatGPT no mostri imatges en respostes normals ni recuperi imatges del web. Els usuaris encara poden pujar fitxers d'imatge, i la generació d'imatges continua disponible allà on ja ho estigui.
Recerca profunda: la recerca profunda està desactivada.
Mode agent: el mode agent està desactivat.
Connexió de xarxa del Llenç: els usuaris no poden autoritzar que el codi generat pel Llenç accedeixi a la xarxa.
Baixades de fitxers: ChatGPT no pot baixar fitxers per analitzar dades. ChatGPT encara pot treballar amb els fitxers que pugis manualment.
El mode de bloqueig no canvia la memòria, les pujades de fitxers, la possibilitat de compartir una conversa ni si les converses es poden utilitzar per millorar els models. Els administradors de l'espai de treball poden configurar moltes d'aquestes opcions per separat.
El mode de bloqueig no afecta l'accés a la xarxa a Codex.
Aplicacions
El funcionament de les aplicacions i els connectors en el mode de bloqueig depèn del tipus de compte i de la configuració de l'espai de treball.
Als comptes personals i els comptes d'autoservei de ChatGPT Business, el mode de bloqueig impedeix l'accés en directe a serveis externs i les accions d'escriptura dels connectors quan entren en conflicte amb les seves proteccions de seguretat. Els comptes individuals no poden configurar la sincronització d'aplicacions. En un espai de treball gestionat apte, l'accés a una font existent gestionada per l'administrador també depèn dels permisos de l'espai de treball i de la política vigent del mode de bloqueig. Algunes experiències connectades, com ara Finances a ChatGPT i les experiències d'agents de compres, no estan disponibles en el mode de bloqueig.
Als espais de treball gestionats, les aplicacions, els MCP i els connectors es controlen mitjançant la configuració de l'espai de treball i els controls d'accés basats en rols. El mode de bloqueig no desactiva automàticament totes les aplicacions d'aquests espais de treball. Els administradors de l'espai de treball només haurien d'activar les aplicacions i les accions de confiança que necessitin els membres que utilitzen el mode de bloqueig.
Per resoldre problemes en un espai de treball gestionat, revisa conjuntament el rol del membre i la configuració de les aplicacions. És possible que un membre no pugui utilitzar una aplicació, un connector, un MCP o una acció si:
el membre o el grup té assignat un rol del mode de bloqueig que limita la capacitat necessària
l'aplicació no està assignada al membre, al grup o al rol
l'acció de lectura o escriptura necessària no està activada
el membre no té accés al fitxer, repositori, canal, registre o sistema d'origen subjacent
un altre rol concedeix la capacitat necessària, però un rol del mode de bloqueig encara la restringeix. Per restablir l'accés, un propietari de l'espai de treball ha d'eliminar el membre o el grup del rol del mode de bloqueig.
L'accés a les aplicacions a ChatGPT no preval sobre els permisos del sistema d'origen connectat. Per obtenir més informació sobre l'assignació de rols, consulta: RBAC.
En configurar aplicacions per als membres que utilitzen el mode de bloqueig, els administradors han de tenir en compte el risc d'exfiltració de dades de cada aplicació i acció.
Risc alt
Aquestes aplicacions i accions no es recomanen per als usuaris del mode de bloqueig:
No es recomanen les accions de lectura o escriptura per a aplicacions no fiables. Activa només aplicacions de confiança.
No es recomanen les accions d'escriptura per a aplicacions de confiança amb una visibilitat àmplia o incerta. Evita activar accions d'escriptura, fins i tot per a aplicacions de confiança, si no pots confirmar que l'efecte secundari queda ocult per a un actor maliciós.
Risc mitjà
Utilitza aquests elements amb precaució per als usuaris del mode de bloqueig:
Les fonts indexades gestionades per l'administrador poden reduir algunes sol·licituds de xarxa sortints perquè el contingut es recupera d'un índex existent en lloc de fer una crida en directe al proveïdor. Tot i així, poden exposar informació sensible, i la seva disponibilitat en el mode de bloqueig depèn de l'espai de treball, la font i la política de seguretat.
Les accions de lectura d'aplicacions de confiança tenen menys risc com a possible destinació de l'exfiltració de dades perquè no generen efectes secundaris d'escriptura. Tot i així, poden actuar com a fonts de dades sensibles que un actor maliciós podria intentar exfiltrar.
Les accions d'escriptura d'aplicacions de confiança amb visibilitat limitada comporten més risc que les accions de lectura perquè generen efectes secundaris. Activa-les només si tens la certesa que qualsevol efecte secundari només és visible per a persones de confiança, i no per a un actor maliciós.
Els administradors d'Enterprise i Edu aptes poden utilitzar els registres disponibles de la plataforma de compliment normatiu per revisar l'activitat compatible de les aplicacions, segons la configuració i els permisos de l'espai de treball. Per obtenir-ne més informació, consulta: Plataforma de compliment normatiu d'OpenAI per a clients d'Enterprise i Edu.
Activa el mode de bloqueig
Comptes personals i comptes d'autoservei de ChatGPT Business
Per als comptes personals aptes i els comptes d'autoservei de ChatGPT Business:
Ves a Configuració.
Selecciona Seguretat.
A Seguretat avançada, activa el Mode de bloqueig.
Al quadre de confirmació, selecciona Activa.
El mode de bloqueig i el mode de desenvolupador no es poden utilitzar alhora. En activar el mode de bloqueig, es desactiva el mode de desenvolupador. Si més endavant actives el mode de desenvolupador, es desactiva el mode de bloqueig.
Quan el mode de bloqueig està activat, el pots desactivar per a un sol xat. Al web, selecciona l'etiqueta MODE DE BLOQUEIG al redactor i, després, Desactiva per a aquest xat.
Per canviar la configuració des del menú del xat:
Obre el menú de més opcions (•••).
Selecciona Bloqueig.
Selecciona Desactivat per desactivar-lo en aquest xat o Activat per tornar-lo a activar.
Per obrir la configuració de Seguretat del compte, selecciona Gestiona el bloqueig al quadre de diàleg del redactor.
Espais de treball gestionats
Els administradors de l'espai de treball poden crear un rol personalitzat i designar-lo com a rol de «mode de bloqueig», i després assignar-hi membres o grups.
Preguntes freqüents
Qui pot activar el mode de bloqueig?
Els usuaris amb comptes personals aptes i comptes d'autoservei de ChatGPT Business poden activar el mode de bloqueig a Configuració > Seguretat quan estigui disponible per al seu compte. Els administradors de l'espai de treball poden activar el mode de bloqueig per als membres d'espais de treball gestionats mitjançant controls d'accés basats en rols.
El mode de bloqueig desactiva l'entrenament?
No. El mode de bloqueig no canvia si les teves converses es poden utilitzar per millorar els models. Pots gestionar-ho per separat als controls de dades. Els controls de dades de l'espai de treball continuen depenent del pla i de la configuració de l'espai de treball.
Puc utilitzar la generació d'imatges en el mode de bloqueig?
Sí. El mode de bloqueig limita el suport d'imatges en les respostes habituals de ChatGPT i les imatges procedents del web, però no desactiva la generació d'imatges.
Puc desactivar el mode de bloqueig per a un sol xat?
Sí. Selecciona l'etiqueta MODE DE BLOQUEIG al redactor web i, després, Desactiva per a aquest xat. També pots canviar la configuració des del menú del xat, tal com s'ha descrit abans. Totes dues opcions només canvien el xat actual.
El mode de bloqueig afecta Codex?
No. El mode de bloqueig no afecta l'accés a la xarxa a Codex.
El mode de bloqueig evita tots els atacs d'injecció d'indicacions?
El mode de bloqueig està dissenyat per reduir considerablement el risc d'exfiltració de dades causada per injeccions d'indicacions a ChatGPT i als productes compatibles d'OpenAI, però no garanteix que l'exfiltració de dades no es pugui produir. El risc pot persistir a través d'aplicacions activades, combinacions imprevistes de capacitats o tècniques descobertes recentment.
El mode de bloqueig tampoc no evita tots els altres efectes dels atacs d'injecció d'indicacions. Per exemple, una instrucció maliciosa oculta en un fitxer pujat encara podria afectar el comportament de ChatGPT i provocar una resposta incorrecta.
La injecció d'indicacions és un risc important?
La injecció d'indicacions és un risc de seguretat conegut quan un sistema d'IA processa contingut no fiable. El mode de bloqueig pot reduir algunes vies d'exfiltració de dades, però no evita tots els atacs d'injecció d'indicacions ni elimina tots els riscos de seguretat.
El mode de bloqueig canvia què es registra a la plataforma de registres de l'API de compliment normatiu?
Per si sol, el mode de bloqueig no canvia quins registres de la plataforma de compliment normatiu estan disponibles. L'accés a les dades de compliment normatiu i la seva conservació depenen de l'espai de treball apte, dels permisos de l'administrador i de la configuració aplicable del producte.