Översikt
OpenAI använder automatiserade system och anmälningar från användare för att identifiera innehåll som kan vara skadligt eller strida mot företagets användningspolicyer. Beroende på situationen kan ChatGPT begränsa ett svar, begränsa delning, avsluta en konversation eller tillfälligt stänga av åtkomsten till ett konto. OpenAI kan också vidta separata åtgärder mot ett konto eller en GPT.
Dessa skyddsåtgärder bygger vidare på de tester och riskbegränsande åtgärder för säkerhet och anpassning till mänskliga värderingar som OpenAI genomför innan modellerna lanseras.
Identifiering av potentiellt skadligt innehåll
OpenAI använder automatiserade modereringsverktyg för att identifiera potentiellt skadligt innehåll i Prompter, svar, uppladdningar och GPT:er.
ChatGPT kan vidta vissa säkerhetsåtgärder automatiskt, utan att en person först granskar konversationen. När någon anmäler innehåll använder OpenAI automatiserade system och utbildade granskare för att bedöma anmälan.
Åtgärder i ChatGPT och ChatGPT Images
När innehåll kan strida mot OpenAI:s policyer eller väcker oro för säkerheten kan ChatGPT:
Varna dig om att ditt innehåll kan strida mot OpenAI:s användningspolicyer.
Avstå från att svara på en Prompt.
Förhindra att en konversation delas.
Avsluta en konversation som väcker allvarlig oro för våld eller att andra kan skadas.
Stänga av ditt konto tillfälligt om fortsatta konversationer väcker allvarlig oro för våld eller att andra kan skadas, efter att konversationer avslutats upprepade gånger.
OpenAI kan som en separat åtgärd stänga ett konto permanent vid allvarliga eller upprepade överträdelser av policyerna.
Avslutade konversationer
Om ChatGPT avslutar en konversation visas den inte längre i din chatthistorik eller i sökresultaten. Du kan starta en ny chatt om ditt konto inte är avstängt eller begränsat på annat sätt.
Tillfälliga kontoavstängningar
Om ChatGPT stänger av ditt konto tillfälligt loggas du ut direkt och kan inte logga in eller använda ChatGPT så länge avstängningen gäller. En tillfällig avstängning är inte samma sak som att kontot stängs permanent.
Mer information om dessa åtgärder finns i: Varför ChatGPT avslutade din konversation eller stängde av ditt konto tillfälligt på grund av oro för våld.
Permanent stängning av konton
OpenAI kan stänga ett konto permanent vid allvarliga eller upprepade överträdelser av företagets policyer. Denna åtgärd är separat från att en konversation avslutas eller att ett konto stängs av tillfälligt.
Information om permanent stängning av konton och möjligheter att få kontobeslut omprövade finns i: Stängning av OpenAI-konton och avstängningar av säkerhetsskäl.
Åtgärder som rör GPT:er
OpenAI använder också automatiserade verktyg för att identifiera potentiellt problematiskt innehåll kopplat till en GPT. Om en GPT kan strida mot OpenAI:s policyer kan OpenAI förhindra att den distribueras.
Den som skapat GPT:n kan uppdatera den eller API-konfigurationen för att åtgärda problemet. Om det finns en möjlighet att överklaga i produkten kan skaparen använda den för att begära en granskning. I särskilt allvarliga fall kan OpenAI också stänga skaparens konto permanent.
Anmäla problematiskt innehåll
Du kan anmäla innehåll som du tror kan strida mot OpenAI:s policyer eller på annat sätt utgöra en säkerhetsrisk. OpenAI använder automatiserade system och utbildade granskare för att bedöma inkomna anmälningar.
För innehåll direkt i ChatGPT, se: Anmäla innehåll i ChatGPT och på OpenAI:s plattformar.
För en delad ChatGPT-konversation, se: Anmäla skadligt eller olagligt innehåll i en delad länk.
För en GPT, se: Anmäla en GPT.
Om någon kan vara i omedelbar fara ska du kontakta den lokala larmcentralen. Att anmäla innehåll till OpenAI ersätter inte akut hjälp.