Visió general
OpenAI utilitza sistemes automatitzats i denúncies dels usuaris per identificar contingut que pot ser nociu o infringir les seves polítiques d'ús. Segons la situació, ChatGPT pot limitar una resposta, restringir la compartició, posar fi a una conversa o suspendre temporalment l'accés al compte. OpenAI també pot prendre mesures independents sobre un compte o un GPT.
Aquestes mesures de protecció complementen les proves de seguretat i alineament i les mesures de mitigació que OpenAI duu a terme abans de llançar els seus models.
Identificació de contingut potencialment nociu
OpenAI utilitza eines de moderació automatitzades per identificar contingut potencialment nociu en indicacions, respostes, fitxers pujats i GPT.
ChatGPT pot prendre determinades mesures de seguretat automàticament, sense que cap persona revisi prèviament la conversa. Quan algú denuncia un contingut, OpenAI utilitza sistemes automatitzats i personal de revisió qualificat per avaluar la denúncia.
Mesures a ChatGPT i Imatges de ChatGPT
Quan un contingut pot infringir les polítiques d'OpenAI o planteja un problema de seguretat, ChatGPT pot:
Advertir-te que el teu contingut pot infringir les polítiques d'ús d'OpenAI.
Negar-se a respondre a una indicació.
Impedir que es comparteixi una conversa.
Posar fi a una conversa que suscita una preocupació greu per possibles actes de violència o danys a altres persones.
Suspendre temporalment el teu compte si, després d'haver posat fi a diverses converses, les converses posteriors susciten preocupacions greus per possibles actes de violència o danys a altres persones.
Independentment d'aquestes mesures, OpenAI pot tancar un compte de manera permanent per infraccions greus o reiterades de les seves polítiques.
Converses finalitzades
Si ChatGPT posa fi a una conversa, aquesta deixa d'aparèixer a l'historial de xats i als resultats de cerca. Pots iniciar un xat nou, tret que el teu compte estigui suspès o subjecte a altres restriccions.
Suspensions temporals del compte
Si ChatGPT suspèn temporalment el teu compte, la sessió es tanca immediatament i no pots iniciar sessió ni utilitzar ChatGPT mentre duri la suspensió. Una suspensió temporal és diferent del tancament permanent del compte.
Per obtenir més informació sobre aquestes mesures, consulta: Per què ChatGPT ha posat fi a la teva conversa o ha suspès temporalment el teu compte per preocupacions relacionades amb la violència.
Tancament permanent del compte
OpenAI pot tancar un compte de manera permanent per infraccions greus o reiterades de les seves polítiques. Aquesta mesura és independent de la finalització d'una conversa o de la suspensió temporal del compte.
Per obtenir informació sobre el tancament permanent del compte i les opcions disponibles per sol·licitar-ne una revisió, consulta: Tancaments de comptes d'OpenAI i suspensions per motius de seguretat.
Mesures relacionades amb els GPT
OpenAI també utilitza eines automatitzades per identificar contingut potencialment problemàtic associat a un GPT. Si un GPT pot infringir les polítiques d'OpenAI, OpenAI pot impedir que es distribueixi.
El creador del GPT pot actualitzar el GPT o la configuració de l'API per resoldre el problema. Si el producte ofereix una opció per presentar una apel·lació, el creador pot fer-la servir per sol·licitar una revisió. En casos especialment greus, OpenAI també pot tancar de manera permanent el compte del creador.
Denúncia de contingut problemàtic
Pots denunciar contingut que creguis que pot infringir les polítiques d'OpenAI o plantejar algun altre problema de seguretat. OpenAI utilitza sistemes automatitzats i personal de revisió qualificat per avaluar les denúncies rebudes.
Per al contingut que es troba directament a ChatGPT, consulta: Com denunciar contingut a ChatGPT i a les plataformes d'OpenAI.
Per a una conversa compartida de ChatGPT, consulta: Com denunciar contingut nociu o il·legal en un enllaç compartit.
Per a un GPT, consulta: Com denunciar un GPT.
Si algú pot estar en perill imminent, posa't en contacte amb els serveis d'emergència locals. Denunciar contingut a OpenAI no substitueix l'assistència d'emergència.