Vi tror på ansvarlig, iterativ udvikling og implementering som et middel til at opnå sikker kunstig generel intelligens. Vi udfører en betydelig mængde test og afbødning af sikkerhed og tilpasning, før vi nogensinde lancerer en model til offentligheden, og vi har også automatiserede og menneskelige systemer på plads til at hjælpe med at registrere problematisk indhold, der vises på vores tjenester for enkeltpersoner, såsom ChatGPT og GPT'er. Vi beskriver nogle af disse indsatser nedenfor.
ChatGPT og ChatGPT Images
Vi bruger automatiserede værktøjer, såsom en intern version af vores /moderations-API, til at opdage indhold (prompts, svar og uploadet materiale), der kan være skadeligt eller overtræde vores retningslinjer for brug. Hvis vi opdager problematisk indhold, vil vi typisk enten advare dig om, at dit indhold muligvis overtræder vores retningslinjer for brug, eller forhindre modellen i at svare på din prompt. Vi kan også forhindre deling af chatten med den problematiske prompt eller det problematiske svar. I ganske få tilfælde kan vi også lukke din konto på grund af groft uacceptabel adfærd.
Vi modtager også indberetninger fra personer om problematisk indhold i ChatGPT. Vi bruger en kombination af automatiserede systemer og et team af uddannede eksperter til at gennemgå disse indberetninger.
ChatGPT: Hvis nogen deler en chat, som du mener indeholder problematisk indhold, kan du også indberette den til os.
Du kan læse mere om, hvordan du indberetter indhold direkte i ChatGPT, her: Indberetning af indhold i ChatGPT og på OpenAI-platforme.
GPT'er
Vi bruger også automatiserede værktøjer såsom vores /moderations-API til at undersøge, om en GPT kan være problematisk. Hvis vi opdager problematisk indhold knyttet til en GPT, griber vi ind, for eksempel ved at forhindre, at den bliver distribueret. Den, der har oprettet GPT'en, kan redigere konfigurationen af GPT'en eller API'et for at fjerne det problematiske indhold eller klage over afgørelsen via en funktion i produktet. I ganske få tilfælde kan vi også lukke kontoen tilhørende den, der har oprettet GPT'en, på grund af groft uacceptabel adfærd.
Vi modtager også indberetninger fra personer om problematiske GPT'er. Hvis du ser en GPT, som du mener overtræder vores retningslinjer for brug eller på anden måde har problematisk indhold, kan du også indberette den til os. Vi bruger en kombination af automatiserede systemer og et team af uddannede eksperter til at gennemgå disse indberetninger.