Descripción general
OpenAI utiliza sistemas automatizados y denuncias de usuarios para identificar contenido que pueda ser dañino o infringir sus políticas de uso. Según la situación, ChatGPT puede limitar una respuesta, restringir el uso compartido, finalizar una conversación o suspender temporalmente el acceso a una cuenta. OpenAI también puede tomar medidas por separado respecto a una cuenta o un GPT.
Estas salvaguardas se suman a las pruebas y las medidas de mitigación en materia de seguridad y alineación que OpenAI lleva a cabo antes de lanzar sus modelos.
Identificar contenido potencialmente dañino
OpenAI utiliza herramientas de moderación automatizadas para identificar contenido potencialmente dañino en prompts, respuestas, archivos subidos y GPT.
ChatGPT puede tomar determinadas medidas de seguridad automáticamente, sin que una persona revise antes la conversación. Cuando alguien denuncia un contenido, OpenAI utiliza sistemas automatizados y revisores cualificados para evaluar la denuncia.
Medidas en ChatGPT y ChatGPT Imágenes
Cuando un contenido pueda infringir las políticas de OpenAI o suscite inquietudes de seguridad, ChatGPT puede:
Advertirte de que tu contenido podría infringir las políticas de uso de OpenAI.
Negarse a responder a un prompt.
Impedir que se comparta una conversación.
Finalizar una conversación que genere serias preocupaciones sobre posibles actos de violencia o daños a otras personas.
Suspender temporalmente tu cuenta si, tras finalizar varias conversaciones, las siguientes siguen generando serias preocupaciones sobre posibles actos de violencia o daños a otras personas.
Por separado, OpenAI puede cerrar permanentemente una cuenta por infracciones graves o reiteradas de sus políticas.
Conversaciones finalizadas
Si ChatGPT finaliza una conversación, esta deja de aparecer en tu historial de chats y en los resultados de búsqueda. Puedes iniciar un nuevo chat, salvo que tu cuenta esté suspendida o tenga alguna otra restricción.
Suspensiones temporales de cuentas
Si ChatGPT suspende temporalmente tu cuenta, tu sesión se cierra de inmediato y no puedes iniciar sesión ni utilizar ChatGPT mientras dure la suspensión. Una suspensión temporal no es lo mismo que el cierre permanente de una cuenta.
Para obtener más información sobre estas medidas, consulta: por qué ChatGPT ha finalizado tu conversación o suspendido temporalmente tu cuenta por preocupaciones sobre posibles actos de violencia.
Cierre permanente de cuentas
OpenAI puede cerrar permanentemente una cuenta por infracciones graves o reiteradas de sus políticas. Esta medida es independiente de la finalización de una conversación o de la suspensión temporal de una cuenta.
Para obtener información sobre el cierre permanente de cuentas y las opciones disponibles para solicitar una revisión de la cuenta, consulta: cierres de cuentas de OpenAI y suspensiones por motivos de seguridad.
Medidas relacionadas con los GPT
OpenAI también utiliza herramientas automatizadas para identificar contenido potencialmente problemático asociado a un GPT. Si un GPT pudiera infringir las políticas de OpenAI, OpenAI puede impedir su distribución.
El creador del GPT puede actualizar el GPT o la configuración de la API para resolver el problema. Si el producto ofrece una opción para presentar una apelación, el creador puede utilizarla para solicitar una revisión. En casos especialmente graves, OpenAI también puede cerrar permanentemente la cuenta del creador.
Denunciar contenido problemático
Puedes denunciar contenido que creas que podría infringir las políticas de OpenAI o plantear algún otro problema de seguridad. OpenAI utiliza sistemas automatizados y revisores cualificados para evaluar las denuncias recibidas.
Si el contenido está directamente en ChatGPT, consulta: denunciar contenido en ChatGPT y en las plataformas de OpenAI.
Si se trata de una conversación compartida de ChatGPT, consulta: denunciar contenido dañino o ilegal en un enlace compartido.
Si se trata de un GPT, consulta: denunciar un GPT.
Si alguien pudiera estar en peligro inmediato, ponte en contacto con los servicios de emergencias locales. Denunciar contenido a OpenAI no sustituye a la asistencia de los servicios de emergencias.