Descripción general
OpenAI usa sistemas automatizados y denuncias de usuarios para identificar contenido que podría ser dañino o infringir sus Políticas de uso. Según la situación, ChatGPT puede limitar una respuesta, restringir el uso compartido, finalizar una conversación o suspender temporalmente el acceso a la cuenta. OpenAI también puede tomar medidas por separado respecto de una cuenta o un GPT.
Estas medidas de protección se basan en las pruebas de seguridad y alineación y las medidas de mitigación que OpenAI realiza antes de lanzar sus modelos.
Identificar contenido potencialmente dañino
OpenAI usa herramientas de moderación automatizadas para identificar contenido potencialmente dañino en prompts, respuestas, archivos subidos y GPT.
ChatGPT puede tomar automáticamente ciertas medidas de seguridad, sin que una persona revise primero la conversación. Cuando alguien denuncia contenido, OpenAI utiliza sistemas automatizados y revisores capacitados para evaluar la denuncia.
Acciones en ChatGPT y ChatGPT Imágenes
Cuando el contenido pueda infringir las políticas de OpenAI o plantee un problema de seguridad, ChatGPT puede:
Avisarte de que tu contenido podría infringir las políticas de uso de OpenAI.
Negarse a responder a un prompt.
Evitar que se comparta una conversación.
Finalizar una conversación que genere una preocupación seria por violencia o daño a otras personas.
Suspender temporalmente tu cuenta si, después de que varias conversaciones hayan finalizado, las conversaciones posteriores generan una preocupación seria por violencia o daños a otras personas.
OpenAI también puede cerrar una cuenta de forma permanente por infracciones graves o reiteradas de sus políticas.
Conversaciones finalizadas
Si ChatGPT finaliza una conversación, esta ya no aparece en tu historial de chats ni en los resultados de búsqueda. Puedes iniciar un nuevo chat, a menos que tu cuenta esté suspendida o tenga alguna otra restricción.
Suspensiones temporales de cuentas
Si ChatGPT suspende temporalmente tu cuenta, se cerrará tu sesión de inmediato y no podrás iniciar sesión ni usar ChatGPT mientras la suspensión esté activa. Una suspensión temporal es diferente del cierre permanente de una cuenta.
Para obtener más información sobre estas medidas, consulta: Por qué ChatGPT finalizó tu conversación o suspendió temporalmente tu cuenta por preocupaciones relacionadas con la violencia.
Cierre permanente de la cuenta
OpenAI puede cerrar permanentemente una cuenta por infracciones graves o reiteradas de sus políticas. Esta medida es independiente de que finalice una conversación o de una suspensión temporal de la cuenta.
Para obtener información sobre el cierre permanente de cuentas y las opciones disponibles para revisar una cuenta, consulta: Cierres de cuentas de OpenAI y suspensiones por motivos de seguridad.
Acciones relacionadas con GPT
OpenAI también usa herramientas automatizadas para identificar contenido potencialmente problemático asociado con un GPT. Si un GPT puede infringir las políticas de OpenAI, OpenAI puede impedir que se distribuya.
Quien creó el GPT puede actualizar el GPT o la configuración de la API para resolver el problema. Si hay una opción para apelar dentro del producto, quien creó el GPT puede usarla para solicitar una revisión. En casos especialmente graves, OpenAI también puede cerrar permanentemente la cuenta de quien creó el GPT.
Denunciar contenido problemático
Puedes denunciar contenido que creas que podría infringir las políticas de OpenAI o que de otro modo plantee un problema de seguridad. OpenAI usa sistemas automatizados y personal capacitado para evaluar los informes enviados.
Para contenido directamente en ChatGPT, consulta: Denunciar contenido en ChatGPT y las plataformas de OpenAI.
Para una conversación compartida de ChatGPT, consulta: Denunciar contenido dañino o ilegal en un enlace compartido.
Para denunciar un GPT, consulta: Denunciar un GPT.
Si alguien pudiera estar en peligro inmediato, comunícate con los servicios de emergencia locales. Denunciar contenido a OpenAI no sustituye la asistencia de emergencia.
