Les produits AI peuvent être plus utiles lorsqu’ils sont connectés à vos applications et au Web, et nous avons beaucoup investi pour protéger les données connectées contre des risques comme les attaques par injection d’invite. Nos produits disposent déjà de nombreuses protections aux niveaux du modèle, du produit et du système. Cela comprend la mise en bac à sable, les protections contre l’exfiltration de données basée sur les URL, la surveillance et l’application des règles, ainsi que des contrôles d’entreprise comme l’accès fondé sur les rôles et les journaux d’audit.
En même temps, certaines capacités liées au réseau introduisent de nouveaux risques, en particulier les injections d’invite, qui ne sont pas encore entièrement pris en charge par les mesures d’atténuation de sûreté et de sécurité du secteur. Certains utilisateurs peuvent être à l’aise d’assumer ces risques, et nous croyons qu’il est important que les utilisateurs puissent décider s’ils veulent les utiliser et de quelle façon, surtout lorsqu’ils travaillent avec leurs données privées.
Pour rendre ces risques plus faciles à comprendre, nous visons à les communiquer au moyen d’un libellé « Risque élevé », d’une terminologie et d’une icône cohérents (le point d’exclamation dans un bouclier), d’une manière adaptée à chaque fonctionnalité et produit. Ce libellé donne aux utilisateurs une visibilité et un contrôle supplémentaires, en plus des protections existantes.
Remarque : Les fonctionnalités portant le libellé « Risque élevé » sont offertes de façon facultative et en accès anticipé, en dehors des déclarations et garanties standard que nous fournissons pour nos services généralement disponibles. Les utilisateurs ne devraient activer ces fonctionnalités que s’ils comprennent les risques supplémentaires et sont à l’aise avec ceux-ci.
Que signifie « Risque élevé »?
Lorsqu’une fonctionnalité porte la mention « Risque élevé », cela signifie que son utilisation présente certains risques qui ne sont pas encore entièrement pris en charge par les mesures de sûreté et de sécurité du secteur. Chaque fois que vous voyez cette mention, vous trouverez généralement des indications sur les risques liés à l’utilisation de la fonctionnalité et les précautions à prendre, souvent au moyen d’un lien « En savoir plus ».
Par exemple, dans Codex, notre assistant de programmation, les développeurs peuvent accorder à Codex un accès au réseau afin qu’il puisse effectuer des actions sur le Web, comme consulter de la documentation. Cette fonctionnalité comporte également un risque élevé d’attaques par injection d’invite. L’écran des paramètres concernés comprend donc la mention « Risque élevé », ainsi qu’une explication claire de ce qui change, des risques possibles et des situations où cet accès est approprié.
Le risque élevé le plus courant associé aux fonctionnalités ainsi désignées est celui des attaques par injection d’invite.
À mesure que les mesures de protection s’améliorent, nous pourrions retirer la mention « Risque élevé » lorsque nous estimons que les risques sont raisonnablement atténués pour les utilisateurs.