Acreditamos no desenvolvimento e na implementação responsáveis e iterativos como forma de alcançar uma inteligência artificial geral segura. Realizamos uma quantidade considerável de testes e mitigação de segurança e alinhamento antes de lançar qualquer modelo ao público, e também temos sistemas automatizados e humanos para ajudar a detetar conteúdo problemático que aparece nos nossos serviços para utilizadores individuais, como o ChatGPT e os GPTs. Descrevemos alguns desses esforços abaixo.
ChatGPT e ChatGPT Imagens
Utilizamos ferramentas automatizadas, como uma versão interna da nossa API /moderations, para detetar conteúdos (prompts, respostas geradas, ficheiros carregados) que possam ser prejudiciais ou violar as nossas Políticas de Utilização. Se detetarmos conteúdo problemático, geralmente emitimos um aviso de que o conteúdo pode violar as nossas políticas de utilização ou impedimos o modelo de responder ao seu prompt. Também podemos impedir a partilha da conversa que contém o prompt ou a resposta problemática. Num conjunto muito restrito de circunstâncias, também podemos banir a sua conta por comportamentos particularmente graves.
Também aceitamos denúncias feitas por pessoas sobre conteúdos problemáticos no ChatGPT. Combinamos sistemas automatizados com uma equipa de especialistas com formação específica para analisar estas denúncias.
ChatGPT: se alguém partilhar uma conversa que considere conter conteúdo problemático, também pode denunciá-la junto de nós.
Para mais informações sobre como denunciar conteúdos diretamente no ChatGPT, consulte: Denunciar conteúdos no ChatGPT e nas plataformas da OpenAI.
GPTs
Também utilizamos ferramentas automatizadas, como a nossa API /moderations, para verificar se um GPT é potencialmente problemático. Se detetarmos conteúdo problemático associado ao GPT, tomaremos medidas, como impedir a sua distribuição. O criador pode editar a configuração do GPT ou da API para remover o conteúdo problemático ou contestar a decisão através de um processo integrado no produto. Num conjunto muito restrito de circunstâncias, também podemos banir a conta do criador por comportamentos particularmente graves.
Também aceitamos denúncias feitas por pessoas sobre GPTs problemáticos. Se encontrar um GPT que considere estar a violar as nossas políticas de utilização ou que apresente conteúdo problemático por outros motivos, também pode denunciá-lo junto de nós. Combinamos sistemas automatizados com uma equipa de especialistas com formação específica para analisar estas denúncias.