Vi tror på ansvarlig, iterativ udvikling og implementering som et middel til at opnå sikker kunstig generel intelligens. Vi udfører en betydelig mængde test og afbødning af sikkerhed og tilpasning, før vi nogensinde lancerer en model til offentligheden, og vi har også automatiserede og menneskelige systemer på plads til at hjælpe med at registrere problematisk indhold, der vises på vores tjenester for enkeltpersoner, såsom ChatGPT og GPT'er. Vi beskriver nogle af disse indsatser nedenfor.
ChatGPT og ImageGen
Vi bruger automatiserede værktøjer, såsom en intern version af vores /moderations API, til at registrere indhold (prompter, fuldførelser, uploads), der kan være skadeligt eller overtræde vores brugspolitikker. Hvis vi registrerer problematisk indhold, vil vi typisk enten advare dig om, at dit indhold kan overtræde vores brugspolitikker, eller blokere modellen fra at svare på din prompt. Vi kan også forhindre, at chatten med den problematiske prompt eller fuldførelse deles. I meget begrænsede tilfælde kan vi også udelukke din konto på grund af særligt grov adfærd.
Vi accepterer også indberetninger fra mennesker om problematisk indhold på ChatGPT. Vi bruger en kombination af automatiserede systemer og et uddannet team af eksperter til at gennemgå disse indberetninger.
ChatGPT: Hvis nogen deler en chat, som du mener indeholder problematisk indhold, kan du også indberette den til os.
Få flere oplysninger om, hvordan du indberetter indhold direkte i ChatGPT, i denne artikel.
GPT'er
Vi bruger også automatiserede værktøjer såsom vores /moderation API til at se, om en GPT potentielt er problematisk. Hvis vi registrerer problematisk indhold knyttet til GPT'en, vil vi handle, for eksempel ved at forhindre, at den distribueres. Udvikleren kan redigere konfigurationen af GPT'en eller API'en for at fjerne det problematiske indhold eller kan appellere afgørelsen via et flow i produktet. I meget begrænsede tilfælde kan vi også udelukke udviklerens konto på grund af særligt grov adfærd.
Vi accepterer også indberetninger fra mennesker om problematiske GPT'er. Hvis du ser en GPT, som du mener overtræder vores brugspolitikker eller på anden måde afspejler problematisk indhold, kan du også indberette den til os. Vi bruger en kombination af automatiserede systemer og et uddannet team af eksperter til at gennemgå disse indberetninger.