概要
OpenAI は、自動システムとユーザーからの報告を活用して、有害である、または利用ポリシーに違反する可能性のあるコンテンツを特定します。状況に応じて、ChatGPT は回答の制限、共有の制限、会話の終了、またはアカウントへのアクセスの一時停止を行うことがあります。OpenAI は、アカウントや GPT に対して別途措置を講じることもあります。
これらの安全対策は、OpenAI がモデルをリリースする前に実施する、安全性とアラインメントに関するテストと緩和策を基盤としています。
潜在的に有害なコンテンツの特定
OpenAI は、プロンプト、回答、アップロード、GPTs に含まれる潜在的に有害なコンテンツを特定するため、自動モデレーションツールを使用します。
ChatGPT は、人が事前に会話を確認しなくても、特定の安全対策を自動的に講じることがあります。誰かがコンテンツを報告すると、OpenAI は自動システムと訓練を受けたレビュアーを使って、その報告を評価します。
ChatGPT と ChatGPT Images での対応
コンテンツが OpenAI のポリシーに違反する可能性がある場合や、安全上の懸念がある場合、ChatGPT は次の対応を行うことがあります：
コンテンツが OpenAI の利用ポリシーに違反している可能性があることを警告します。
プロンプトへの応答を拒否します。
会話が共有されないようにします。
暴力や他者への危害に関する重大な懸念が生じる会話を終了します。
会話が繰り返し終了した後の追加の会話で、暴力や他者への危害に関する重大な懸念が生じた場合は、アカウントを一時停止することがあります。
重大な、または繰り返されるポリシー違反については、OpenAI は別途アカウントを永久に閉鎖する場合があります。
終了した会話
ChatGPT が会話を終了すると、その会話はチャット履歴や検索結果に表示されなくなります。アカウントが停止またはその他の制限を受けていない限り、新しいチャットを開始できます。
アカウントの一時停止
ChatGPT がアカウントを一時停止すると、直ちにログアウトされ、一時停止中はサインインしたり ChatGPT を利用したりできません。一時的なアカウント停止は、アカウントの永久閉鎖とは異なります。
これらの対応について詳しくは、次の記事をご覧ください：暴力への懸念から ChatGPT が会話を終了した、またはアカウントを一時停止した理由。
アカウントの永久閉鎖
OpenAI は、ポリシーへの重大な違反または違反の繰り返しがあった場合、アカウントを永久に閉鎖することがあります。この対応は、会話の終了やアカウントの一時停止とは別のものです。
アカウントの永久閉鎖と利用可能なアカウント審査の選択肢については、OpenAI アカウントの閉鎖と安全上の理由による利用停止をご覧ください。
GPTs に関する対応
OpenAI は、GPT に関連する問題のある可能性があるコンテンツを特定するために、自動化ツールも使用します。GPT が OpenAI のポリシーに違反する可能性がある場合、OpenAI はその配布を防ぐことがあります。
GPT の作成者は、GPT または API の設定を更新して問題に対処できます。製品内で異議申し立てができる場合、作成者はそれを利用して審査を依頼できます。特に深刻なケースでは、OpenAI は作成者のアカウントを永久に閉鎖することもあります。
問題のあるコンテンツを報告する
OpenAI のポリシーに違反している可能性がある、またはその他の安全上の懸念があると思われるコンテンツを報告できます。OpenAI は、自動化システムと訓練を受けた審査担当者を使って、寄せられた報告を評価します。
ChatGPT 内のコンテンツについては、ChatGPT および OpenAI プラットフォームでコンテンツを報告する方法をご覧ください。
共有された ChatGPT の会話については、以下をご覧ください：共有リンク内の有害または違法なコンテンツを報告する方法。
GPT については、GPT を報告するをご覧ください。
誰かが差し迫った危険にさらされている可能性がある場合は、地域の緊急サービスに連絡してください。OpenAI へのコンテンツの報告は、緊急時の支援に代わるものではありません。