AI 製品はアプリやウェブに接続することでより役立ちます。当社は、接続されたデータの安全性をプロンプトインジェクション攻撃などのリスクから守るために、多大な投資を行ってきました。当社製品には、モデル、製品、およびシステムのレベルで、多くの既存の保護機能が備わっています。これには、サンドボックス化、URL ベースのデータ流出防止、モンタリングと施行、およびロールベースのアクセス制御や監査ログなどの企業向けの管理が含まれます。
同時に、一部のネットワーク関連機能は、業界の安全対策やセキュリティ対策ではまだ十分に対応されていない新たなリスク、特にプロンプトインジェクションのリスクをもたらしています。一部のユーザーはこれらのリスクを受け入れることに抵抗がないかもしれません。私たちは、特にユーザーが自らのプライベートデータを扱う際に、それらを使用するかどうか、またどのように使用するかをユーザー自身が判断できることが重要だと考えています。
こうしたリスクをより分かりやすくするために、当社では、各機能や製品に合わせて、一貫した「高リスク」ラベル、用語、アイコン（盾の中に感嘆符）を使用し、このリスクを伝えることを目指しています。このラベルにより、既存の保護機能に加えて、ユーザーによる視認性と制御性のさらなる向上を図っています。
注：「高リスク」のラベルが付けられた機能は、オプションかつ早期アクセス方式で提供され、当社が一般に提供しているサービスに関して行う標準的な表現および保証の対象外となります。追加のリスクを理解し、それを許容できる場合にのみ、これらの機能を有効にしてください。
「高リスク」とはどういう意味ですか？
ある機能に「高リスク」と表示されている場合、それはその機能の使用により、業界の安全対策やセキュリティ対策ではまだ十分に対応されていないリスクが生じる可能性があることを示しています。このラベルが表示されるたびに、その機能の使用によって生じるリスクや注意すべき点に関するガイダンスが、多くの場合「詳細はこちら」のリンクを通じて表示されます。
たとえば、コーディングアシスタントである Codex では、開発者が Codex にネットワークアクセスを許可することで、ウェブ上でドキュメントを調べるといったアクションを実行できるようになります。ただし、この機能は、プロンプトインジェクション攻撃のリスクが高まる可能性があります。そのため、関連する設定画面には、「高リスク」ラベルが含まれており、何が変更されるのか、どのようなリスクが新たに生じる可能性があるのか、そしてそのアクセスがいつ適切となるのかについて、明確な説明が記載されています。
このようなラベル付けされた機能で最も一般的に高まるリスクは、プロンプトインジェクション攻撃です。
安全対策が改善され、ユーザーにとってのリスクが十分に軽減されたと判断できた時点で、当社は「高リスク」のラベルを削除する可能性があります。