当社は、安全な汎用人工知能を実現する手段として、責任ある反復的な開発と展開を信条としています。当社では、モデルを一般公開する前に、安全性とアラインメントに関する相当量のテストと緩和策を実施しています。また、ChatGPTやGPTsなどの個人向けサービス上に現れる問題のあるコンテンツの検出を支援するため、自動化システムと人による体制も整えています。以下では、そうした取り組みの一部について紹介します。

ChatGPT と ImageGen

当社では、当社の /moderations API の社内版などの自動化ツールを使用して、有害または当社の利用ポリシーに違反する可能性のあるコンテンツ（プロンプト、補完、アップロード）を検出しています。問題のあるコンテンツを検出した場合、通常、お客様のコンテンツが当社の利用ポリシーに違反する可能性があると警告するか、モデルがプロンプトに応答しないようブロックします。また、問題のあるプロンプトまたは生成結果を含むチャットが共有されないようにすることがあります。ごく限られた状況においては、悪質な行為を理由にお客様のアカウントを停止する場合もあります。

ChatGPT 上の問題のあるコンテンツについては、人間による報告も受け付けています。当社では、これらの報告の審査に、自動化システムと専門家チームを組み合わせて行っています。

• ChatGPT：問題のあるコンテンツが含まれていると思われるチャットを誰かが共有した場合は、弊社に報告することもできます。

ChatGPT 内でコンテンツを直接報告する方法の詳細については、こちらの記事をご覧ください。

GPT

GPT が潜在的に問題があるかどうかを確認するために、当社の /moderation API などの自動化ツールも使用しています。GPT に関連する問題のあるコンテンツを検出した場合、配布を防止するなどの措置を講じます。ビルダーは、問題のあるコンテンツを削除するために GPT または API の構成を編集することができます。また、製品内のフローを通じてこの決定に異議を申し立てることもできます。ごく限られた状況においては、極めて悪質な行為を理由に、ビルダーのアカウントを利用停止にする場合もあります。

問題のあるGPTに関する人間による報告も受け付けています。利用ポリシーに違反している、またはその他の問題のあるコンテンツを含んでいると思われる GPT を見つけた場合は、弊社に報告することもできます。当社では、これらの報告の審査に、自動化システムと専門家チームを組み合わせて行っています。