Oversikt
OpenAI bruker automatiserte systemer og rapporter fra brukere for å identifisere innhold som kan være skadelig eller bryte selskapets retningslinjer for bruk. Avhengig av situasjonen kan ChatGPT begrense et svar, begrense deling, avslutte en samtale eller sperre tilgangen til en konto midlertidig. OpenAI kan også iverksette separate tiltak overfor en konto eller GPT.
Disse sikkerhetstiltakene bygger på testingen og de risikoreduserende tiltakene OpenAI gjennomfører før modellene lanseres, for å gjøre dem trygge og i tråd med menneskelige verdier og intensjoner.
Identifisering av potensielt skadelig innhold
OpenAI bruker automatiserte modereringsverktøy for å identifisere potensielt skadelig innhold i prompter, svar, opplastinger og GPT-er.
ChatGPT kan iverksette enkelte sikkerhetstiltak automatisk, uten at en person gjennomgår samtalen først. Når noen rapporterer innhold, bruker OpenAI automatiserte systemer og medarbeidere med relevant opplæring til å vurdere rapporten.
Tiltak i ChatGPT og ChatGPT Images
Når innhold kan bryte OpenAIs retningslinjer eller gir grunn til bekymring for sikkerheten, kan ChatGPT:
Advare deg om at innholdet ditt kan bryte OpenAIs retningslinjer for bruk.
Avslå å svare på en prompt.
Hindre at en samtale deles.
Avslutte en samtale som gir grunn til alvorlig bekymring for vold eller skade på andre.
Sperre kontoen din midlertidig hvis nye samtaler gir grunn til alvorlig bekymring for vold eller skade på andre etter at flere samtaler er blitt avsluttet.
OpenAI kan som et separat tiltak stenge en konto permanent ved alvorlige eller gjentatte brudd på retningslinjene.
Avsluttede samtaler
Hvis ChatGPT avslutter en samtale, vises den ikke lenger i chathistorikken eller søkeresultatene dine. Du kan starte en ny chat med mindre kontoen din er sperret eller har andre begrensninger.
Midlertidig sperring av konto
Hvis ChatGPT sperrer kontoen din midlertidig, blir du logget ut umiddelbart og kan ikke logge inn eller bruke ChatGPT så lenge sperringen gjelder. Midlertidig sperring er ikke det samme som permanent stenging av kontoen.
Du finner mer informasjon om disse tiltakene her: Hvorfor ChatGPT avsluttet samtalen din eller sperret kontoen din midlertidig på grunn av bekymring for vold.
Permanent stenging av konto
OpenAI kan stenge en konto permanent ved alvorlige eller gjentatte brudd på selskapets retningslinjer. Dette er et separat tiltak, uavhengig av at en samtale avsluttes eller en konto sperres midlertidig.
Du finner informasjon om permanent stenging av konto og muligheter for å få kontosaken vurdert på nytt her: Stenging og sikkerhetsrelatert sperring av OpenAI-kontoer.
Tiltak knyttet til GPT-er
OpenAI bruker også automatiserte verktøy for å identifisere potensielt problematisk innhold knyttet til en GPT. Hvis en GPT kan bryte OpenAIs retningslinjer, kan OpenAI hindre at den distribueres.
Den som har laget GPT-en, kan oppdatere GPT-en eller API-konfigurasjonen for å løse problemet. Hvis det finnes en klagefunksjon i produktet, kan den som har laget GPT-en, bruke den til å be om en ny vurdering. I særlig alvorlige tilfeller kan OpenAI også stenge kontoen til den som har laget GPT-en, permanent.
Rapportering av problematisk innhold
Du kan rapportere innhold som du mener kan bryte OpenAIs retningslinjer eller på andre måter utgjøre en sikkerhetsrisiko. OpenAI bruker automatiserte systemer og medarbeidere med relevant opplæring til å vurdere innsendte rapporter.
For innhold direkte i ChatGPT, se: Rapportere innhold i ChatGPT og på OpenAI-plattformer.
For en delt ChatGPT-samtale, se: Rapportere skadelig eller ulovlig innhold i en delt lenke.
For en GPT, se: Rapportere en GPT.
Hvis noen kan være i umiddelbar fare, kontakt lokale nødetater. Å rapportere innhold til OpenAI erstatter ikke akutt hjelp.