OpenAI
Deze pagina is automatisch vertaald. Bekijk het oorspronkelijke Engelstalige artikel.

Hoe OpenAI problematische inhoud opspoort en daarop reageert

Lees hoe OpenAI mogelijk schadelijke inhoud in ChatGPT, ChatGPT Images en GPT's opspoort en daarop reageert.

Bijgewerkt: 8 days ago

Overzicht

OpenAI gebruikt geautomatiseerde systemen en meldingen van gebruikers om inhoud op te sporen die mogelijk schadelijk is of in strijd is met het gebruiksbeleid. Afhankelijk van de situatie kan ChatGPT een antwoord beperken, het delen beperken, een gesprek beëindigen of de toegang tot een account tijdelijk opschorten. OpenAI kan ook afzonderlijke maatregelen nemen tegen een account of GPT.

Deze waarborgen bouwen voort op de tests en risicobeperkende maatregelen die OpenAI vóór de release van zijn modellen uitvoert om de veiligheid en de afstemming op menselijke waarden te bevorderen.

Mogelijk schadelijke inhoud opsporen

OpenAI gebruikt geautomatiseerde moderatietools om mogelijk schadelijke inhoud op te sporen in prompts, antwoorden, uploads en GPT's.

ChatGPT kan bepaalde veiligheidsmaatregelen automatisch nemen, zonder dat een persoon het gesprek eerst beoordeelt. Wanneer iemand inhoud meldt, gebruikt OpenAI geautomatiseerde systemen en getrainde beoordelaars om die melding te beoordelen.

Maatregelen in ChatGPT en ChatGPT Images

Wanneer inhoud mogelijk in strijd is met het beleid van OpenAI of aanleiding geeft tot zorgen over de veiligheid, kan ChatGPT:

  • Je waarschuwen dat je inhoud mogelijk in strijd is met het gebruiksbeleid van OpenAI.

  • Weigeren op een prompt te reageren.

  • Voorkomen dat een gesprek wordt gedeeld.

  • Een gesprek beëindigen dat ernstige zorgen oproept over geweld of het toebrengen van schade aan anderen.

  • Je account tijdelijk opschorten als, nadat gesprekken herhaaldelijk zijn beëindigd, nieuwe gesprekken ernstige zorgen oproepen over geweld of het toebrengen van schade aan anderen.

Los daarvan kan OpenAI een account definitief sluiten bij ernstige of herhaalde beleidsovertredingen.

Beëindigde gesprekken

Als ChatGPT een gesprek beëindigt, verschijnt het niet meer in je chatgeschiedenis of zoekresultaten. Je kunt een nieuwe chat starten, tenzij je account is opgeschort of er andere beperkingen gelden.

Tijdelijke opschorting van accounts

Als ChatGPT je account tijdelijk opschort, word je direct uitgelogd en kun je niet inloggen of ChatGPT gebruiken zolang de opschorting van kracht is. Een tijdelijke opschorting is iets anders dan een definitieve sluiting van je account.

Voor meer informatie over deze maatregelen, zie: Waarom ChatGPT je gesprek heeft beëindigd of je account tijdelijk heeft opgeschort vanwege zorgen over geweld.

Definitieve sluiting van een account

OpenAI kan een account definitief sluiten bij ernstige of herhaalde overtredingen van het beleid. Deze maatregel staat los van het beëindigen van een gesprek of het tijdelijk opschorten van een account.

Voor informatie over definitieve accountsluiting en de beschikbare mogelijkheden om je account te laten herbeoordelen, zie: Sluiting en opschorting van OpenAI-accounts om veiligheidsredenen.

Maatregelen voor GPT's

OpenAI gebruikt ook geautomatiseerde tools om mogelijk problematische inhoud op te sporen die verband houdt met een GPT. Als een GPT mogelijk in strijd is met het beleid van OpenAI, kan OpenAI voorkomen dat deze wordt verspreid.

De maker van de GPT kan de GPT of de API-configuratie aanpassen om het probleem op te lossen. Als het product een mogelijkheid biedt om bezwaar te maken, kan de maker die gebruiken om een herbeoordeling aan te vragen. In bijzonder ernstige gevallen kan OpenAI ook het account van de maker definitief sluiten.

Problematische inhoud melden

Je kunt inhoud melden die volgens jou mogelijk in strijd is met het beleid van OpenAI of op een andere manier een veiligheidsrisico vormt. OpenAI gebruikt geautomatiseerde systemen en getrainde beoordelaars om ingediende meldingen te beoordelen.

Neem contact op met de lokale hulpdiensten als iemand mogelijk in direct gevaar is. Inhoud melden bij OpenAI is geen vervanging voor noodhulp.

Was dit artikel nuttig?