Überblick
OpenAI nutzt automatisierte Systeme und Nutzermeldungen, um Inhalte zu erkennen, die schädlich sein oder gegen die Nutzungsrichtlinien von OpenAI verstoßen könnten. Je nach Situation kann ChatGPT eine Antwort einschränken, das Teilen beschränken, eine Unterhaltung beenden oder den Kontozugriff vorübergehend sperren. OpenAI kann außerdem in Bezug auf ein Konto oder ein GPT gesonderte Maßnahmen ergreifen.
Diese Schutzmaßnahmen bauen auf den Tests zu Sicherheit und Alignment sowie den Maßnahmen zur Risikominderung auf, die OpenAI vor der Veröffentlichung seiner Modelle durchführt.
Potenziell schädliche Inhalte erkennen
OpenAI nutzt automatisierte Moderationstools, um potenziell schädliche Inhalte in Prompts, Antworten, Uploads und GPTs zu erkennen.
ChatGPT kann bestimmte Sicherheitsmaßnahmen automatisch ergreifen, ohne dass zuvor eine Person die Unterhaltung überprüft. Wenn jemand Inhalte meldet, nutzt OpenAI automatisierte Systeme und geschulte Prüfer, um diese Meldung zu bewerten.
Maßnahmen in ChatGPT und ChatGPT Bilder
Wenn Inhalte möglicherweise gegen die Richtlinien von OpenAI verstoßen oder Sicherheitsbedenken hervorrufen, kann ChatGPT:
Dich darauf hinweisen, dass dein Inhalt möglicherweise gegen die Nutzungsrichtlinien von OpenAI verstößt.
Es ablehnen, auf einen Prompt zu antworten.
Verhindern, dass eine Unterhaltung geteilt wird.
Eine Unterhaltung beenden, die ernsthafte Bedenken hinsichtlich Gewalt oder einer Schädigung anderer aufwirft.
Dein Konto vorübergehend sperren, wenn nach wiederholtem Beenden von Unterhaltungen weitere Unterhaltungen ernsthafte Bedenken hinsichtlich Gewalt oder einer Schädigung anderer aufwerfen.
OpenAI kann ein Konto bei schwerwiegenden oder wiederholten Verstößen gegen Richtlinien auch unabhängig davon dauerhaft schließen.
Beendete Unterhaltungen
Wenn ChatGPT eine Unterhaltung beendet, erscheint sie nicht mehr in deinem Chatverlauf oder in den Suchergebnissen. Du kannst einen neuen Chat starten, es sei denn, dein Konto ist gesperrt oder anderweitig eingeschränkt.
Vorübergehende Kontosperrungen
Wenn ChatGPT dein Konto vorübergehend sperrt, wirst du sofort abgemeldet und kannst dich während der Sperrung nicht anmelden oder ChatGPT nutzen. Eine vorübergehende Sperrung unterscheidet sich von einer dauerhaften Schließung des Kontos.
Weitere Informationen zu diesen Maßnahmen findest du unter: Warum ChatGPT deine Unterhaltung beendet oder dein Konto wegen Bedenken im Zusammenhang mit Gewalt vorübergehend gesperrt hat.
Dauerhafte Kontoschließung
OpenAI kann ein Konto bei schwerwiegenden oder wiederholten Verstößen gegen seine Richtlinien dauerhaft schließen. Diese Maßnahme ist unabhängig von der Beendigung einer Unterhaltung oder einer vorübergehenden Kontosperrung.
Informationen zur dauerhaften Schließung eines Kontos und zu verfügbaren Optionen zur Kontoüberprüfung findest du unter: Schließungen von OpenAI-Konten und sicherheitsbedingte Sperrungen.
Maßnahmen im Zusammenhang mit GPTs
OpenAI nutzt außerdem automatisierte Tools, um potenziell problematische Inhalte zu erkennen, die mit einem GPT in Verbindung stehen. Wenn ein GPT möglicherweise gegen die Richtlinien von OpenAI verstößt, kann OpenAI verhindern, dass es verbreitet wird.
Der Ersteller des GPT kann das GPT oder die API-Konfiguration aktualisieren, um das Problem zu beheben. Wenn eine Einspruchsmöglichkeit im Produkt verfügbar ist, kann der Ersteller sie nutzen, um eine Überprüfung zu beantragen. In besonders schwerwiegenden Fällen kann OpenAI auch das Konto des Erstellers dauerhaft schließen.
Problematische Inhalte melden
Du kannst Inhalte melden, von denen du glaubst, dass sie möglicherweise gegen die Richtlinien von OpenAI verstoßen oder anderweitig ein Sicherheitsrisiko darstellen. OpenAI nutzt automatisierte Systeme und geschulte Prüfer, um eingereichte Meldungen zu bewerten.
Informationen zum Melden von Inhalten direkt in ChatGPT findest du hier: Inhalte in ChatGPT und auf OpenAI-Plattformen melden.
Informationen zu einer geteilten ChatGPT-Unterhaltung findest du hier: Schädliche oder illegale Inhalte in einem geteilten Link melden.
Informationen zum Melden eines GPT findest du unter: Einen GPT melden.
Wenn jemand unmittelbar in Gefahr sein könnte, wende dich an die örtlichen Notfalldienste. Das Melden von Inhalten an OpenAI ist kein Ersatz für Notfallhilfe.