AI 製品は、アプリやウェブに接続することでより役立つものになります。当社は、接続されたデータをプロンプトインジェクション攻撃などのリスクから保護するため、多くの取り組みを行ってきました。当社製品には、モデル、製品、システムの各レベルで、すでに多くの保護機能が備わっています。これには、サンドボックス化、URL ベースのデータ流出防止、監視とポリシー適用、およびロールベースのアクセス制御や監査ログなどのエンタープライズ向け管理機能が含まれます。
同時に、一部のネットワーク関連機能は、業界の安全対策やセキュリティ対策ではまだ十分に対応されていない新たなリスク、特にプロンプトインジェクション攻撃のリスクを生じさせる場合があります。一部のユーザーは、これらのリスクを受け入れることに抵抗がない場合があります。特にユーザーが自分のプライベートデータを扱う際には、これらの機能を使用するかどうか、またどのように使用するかをユーザー自身が判断できることが重要だと考えています。
こうしたリスクをよりわかりやすくするため、当社では、各機能や製品に合った形で、一貫した「高リスク」ラベル、用語、アイコン（盾の中の感嘆符）を使用してリスクを伝えることを目指しています。このラベルにより、既存の保護機能に加えて、ユーザーがリスクを把握し、管理しやすくなります。
注：「高リスク」ラベルが付いた機能は、任意の早期アクセス機能として提供され、当社の一般提供中のサービスに適用される標準的な表明および保証の対象外となります。追加のリスクを理解し、それを許容できる場合にのみ、これらの機能を有効にしてください。
「高リスク」とはどういう意味ですか？
ある機能に「高リスク」と表示されている場合、それはその機能の使用により、業界の安全対策やセキュリティ対策ではまだ十分に対応されていないリスクが生じる可能性があることを示しています。このラベルが表示される場合は通常、その機能の使用によって生じるリスクや注意すべき点に関するガイダンスが、多くの場合「詳細はこちら」のリンクから確認できます。
たとえば、コーディングアシスタントである Codex では、開発者が Codex にネットワークアクセスを許可することで、ウェブ上でドキュメントを調べるといったアクションを実行できるようになります。ただし、この機能では、プロンプトインジェクション攻撃のリスクも高まります。そのため、関連する設定画面には「高リスク」ラベルが表示され、何が変更されるのか、どのようなリスクが生じる可能性があるのか、どのような場合にそのアクセスが適切かについて、明確な説明が記載されています。
このようなラベル付けされた機能で最も一般的に高まるリスクは、プロンプトインジェクション攻撃です。安全対策が強化され、ユーザーにとってのリスクが適切な水準まで軽減されたと判断した場合、当社は「高リスク」ラベルを削除することがあります。