Vi tror på ansvarsfull, iterativ utveckling och driftsättning som ett sätt att uppnå säker artificiell generell intelligens. Vi genomför omfattande tester och riskreducerande åtgärder inom säkerhet och anpassning innan vi någonsin lanserar en modell till allmänheten, och vi har också automatiserade och mänskliga system på plats för att hjälpa till att upptäcka problematiskt innehåll som förekommer i våra tjänster för privatpersoner, till exempel ChatGPT och GPT:er. Vi beskriver några av dessa insatser nedan.

ChatGPT och ImageGen

Vi använder automatiserade verktyg, till exempel en intern version av vårt /moderations API, för att upptäcka innehåll (prompter, slutföranden, uppladdningar) som kan vara skadligt eller bryta mot våra användningspolicyer. Om vi upptäcker problematiskt innehåll brukar vi vanligtvis antingen varna dig om att ditt innehåll kan bryta mot våra användningspolicyer eller blockera modellen från att svara på din prompt. Vi kan också förhindra att chatten med den problematiska prompten eller slutförandet delas. Under mycket begränsade omständigheter kan vi också stänga av ditt konto vid grovt beteende.

Vi tar också emot rapporter från människor om problematiskt innehåll på ChatGPT. Vi använder en kombination av automatiserade system och ett utbildat team av experter för att granska dessa rapporter.

• ChatGPT: Om någon delar en chatt som du anser innehåller problematiskt innehåll kan du också rapportera den till oss.

Mer information om hur du rapporterar innehåll direkt i ChatGPT finns i den här artikeln.

GPT:er

Vi använder också automatiserade verktyg, till exempel vårt /moderation API, för att se om en GPT är potentiellt problematisk. Om vi upptäcker problematiskt innehåll kopplat till GPT:n vidtar vi åtgärder, till exempel att förhindra att den distribueras. Byggaren kan redigera konfigurationen av GPT:n eller API:et för att ta bort det problematiska innehållet, eller överklaga beslutet via ett flöde i produkten. Under mycket begränsade omständigheter kan vi också stänga av byggarens konto vid grovt beteende.

Vi tar också emot rapporter från människor om problematiska GPT:er. Om du ser en GPT som du anser bryter mot våra användningspolicyer eller på annat sätt återspeglar problematiskt innehåll kan du också rapportera den till oss. Vi använder en kombination av automatiserade system och ett utbildat team av experter för att granska dessa rapporter.