Les produits d’IA peuvent être plus utiles lorsqu’ils sont connectés à vos applications et au Web, et nous avons investi massivement dans la sécurisation des données connectées contre des risques tels que les attaques par injection de prompt. Nos produits disposent de nombreuses mesures de protection existantes au niveau des modèles, des produits et des systèmes. Cela inclut le sandboxing, les protections contre l’exfiltration de données par URL, la surveillance et le contrôle, ainsi que des contrôles d’entreprise tels que le contrôle d’accès basé sur les rôles et les journaux d’audit.
Parallèlement, certaines fonctionnalités liées au réseau introduisent de nouveaux risques, notamment les attaques par injection de prompt, qui ne sont pas encore pleinement prises en compte par les mesures de sécurité et de sûreté du secteur. Certains utilisateurs peuvent être disposés à assumer ces risques, et nous estimons qu’il est important que les utilisateurs aient la possibilité de décider s’ils souhaitent les utiliser et comment, en particulier lorsqu’ils travaillent avec leurs données privées.Afin de rendre ces risques plus faciles à comprendre, nous visons à communiquer ce risque à l’aide d’une mention « Risque élevé », d’une terminologie et d’une icône cohérentes (le point d’exclamation dans un bouclier), d’une manière adaptée à chaque fonctionnalité et produit. Cet étiquetage offre aux utilisateurs une visibilité accrue et un contrôle supplémentaire, en complément des protections existantes.
Remarque : les fonctionnalités portant la mention « Risque élevé » sont proposées à titre facultatif et en accès anticipé, en dehors des garanties et représentations standard que nous fournissons pour nos services généralement disponibles. Les utilisateurs ne doivent activer ces fonctionnalités que s’ils comprennent et sont à l’aise avec les risques supplémentaires.
Que signifie « Risque élevé » ?
Lorsqu’une capacité porte la mention « Risque élevé », cela indique que l’utilisation de la fonctionnalité introduit certains risques qui ne sont pas encore entièrement pris en compte par les mesures de sécurité et de sûreté mises en place par le secteur. Chaque fois que vous voyez ce libellé, vous trouverez généralement des indications sur les risques liés à l’utilisation de la fonctionnalité et sur les points auxquels prêter attention, souvent via un lien « Pour en savoir plus ».
Par exemple, dans Codex, notre assistant de codage, les développeurs peuvent accorder à Codex l’accès au réseau afin qu’il puisse effectuer des actions sur le Web, comme consulter de la documentation. Cette capacité présente également un risque accru d’attaques par injection de prompt. L’écran des paramètres correspondants comprend donc la mention « Risque élevé », accompagnée d’une explication claire des modifications apportées, des risques potentiels et des cas dans lesquels cet accès est approprié.
Le risque accru le plus courant que présentent ces fonctionnalités ainsi étiquetées est celui des attaques par injection de prompt.
À mesure que les mesures de sécurité s’améliorent, nous pourrons supprimer la mention « Risque élevé » une fois que nous aurons déterminé que les risques sont raisonnablement atténués pour les utilisateurs.