Aperçu
Le mode de verrouillage peut être offert aux comptes personnels admissibles, aux comptes ChatGPT Business en libre-service et aux espaces de travail gérés pris en charge. Sa disponibilité dépend de votre compte, de votre espace de travail, du déploiement actuel du produit et des paramètres de l’administrateur.
Le mode de verrouillage est un paramètre facultatif de sécurité avancée qui limite de nombreux outils et fonctionnalités des produits OpenAI pouvant se connecter au Web ou à des services externes. Il vise à réduire le risque d’exfiltration de données découlant d’attaques par injection d’invite en limitant les requêtes réseau sortantes, au prix de la désactivation ou de la restriction de certaines fonctionnalités utiles.
Le mode de verrouillage ne convient pas à tout le monde. Il est conçu pour les personnes et les organisations qui traitent des données sensibles et souhaitent une protection plus stricte contre les risques d’exfiltration de données liés à l’injection d’invite.
Disponibilité
Le mode de verrouillage exige un compte connecté et n’est offert que s’il est pris en charge par votre forfait, votre espace de travail, l’interface du produit et la configuration de l’administrateur.
Comment le mode de verrouillage aide à réduire le risque d’exfiltration de données
L’injection d’invite est un problème de recherche complexe. Nous travaillons continuellement à renforcer nos systèmes multicouches de sécurité et de sûreté afin de protéger les utilisateurs contre de telles attaques.
Le mode de verrouillage s’appuie sur des protections aux niveaux du modèle, du produit et du système. Cela comprend l’exécution en bac à sable, les protections contre l’exfiltration de données par URL, la surveillance et l’application des règles, ainsi que des contrôles d’entreprise comme l’accès basé sur les rôles et les journaux d’audit.
Le mode de verrouillage vise à prévenir la dernière étape de l’exfiltration de données lors d’une attaque par injection d’invite en limitant les requêtes réseau sortantes susceptibles de transférer des données sensibles à un attaquant. Le mode de verrouillage n’empêche pas les injections d’invite d’apparaître dans le contenu traité par ChatGPT. Par exemple, une injection d’invite pourrait apparaître dans du contenu Web mis en cache ou dans un fichier téléversé, et continuer d’influencer le comportement ou l’exactitude d’une réponse.
Le mode de verrouillage désactive ou limite les fonctionnalités suivantes des produits OpenAI :
Navigation Web en direct : la navigation Web est limitée au contenu mis en cache. Les résultats de recherche peuvent être limités, indisponibles ou obsolètes.
Prise en charge des images : ChatGPT pourrait ne pas afficher d’images dans les réponses ordinaires ni récupérer d’images sur le Web. Les utilisateurs peuvent toujours téléverser des fichiers image, et la génération d’images demeure offerte là où elle l’est normalement.
Recherche approfondie : la recherche approfondie est désactivée.
Mode agent : le mode agent est désactivé.
Accès réseau du canvas : les utilisateurs ne peuvent pas autoriser le code généré par le canvas à accéder au réseau.
Téléchargement de fichiers : ChatGPT ne peut pas télécharger de fichiers aux fins d’analyse de données. ChatGPT peut toujours traiter les fichiers que vous téléversez manuellement.
Le mode de verrouillage ne modifie pas la mémoire, le téléversement de fichiers, la capacité de partager une conversation ni l’utilisation éventuelle de vos conversations pour améliorer les modèles. Bon nombre de ces paramètres peuvent être configurés séparément par les administrateurs de l’espace de travail.
Le mode de verrouillage n’a aucune incidence sur l’accès au réseau dans Codex.
Applications
Le fonctionnement des applications et des connecteurs en mode de verrouillage dépend de votre type de compte et des paramètres de votre espace de travail.
Pour les comptes personnels et les comptes ChatGPT Business en libre-service, le mode de verrouillage bloque l’accès en direct aux services externes et les actions d’écriture des connecteurs lorsqu’elles entrent en conflit avec ses mesures de sécurité. Les comptes individuels ne peuvent pas configurer la synchronisation des applications. Dans un espace de travail géré admissible, l’accès à une source existante gérée par un administrateur dépend aussi des autorisations de l’espace de travail et de la politique actuelle du mode de verrouillage. Certaines expériences connectées, notamment Finances dans ChatGPT et les expériences d’agent d’achat, ne sont pas accessibles en mode de verrouillage.
Dans les espaces de travail gérés, les applications, les MCP et les connecteurs sont régis par les paramètres de l’espace de travail et les contrôles d’accès basés sur les rôles. Le mode de verrouillage ne désactive pas automatiquement toutes les applications de ces espaces de travail. Les administrateurs d’espace de travail devraient seulement activer les applications et les actions fiables dont les membres utilisant le mode de verrouillage ont besoin.
Pour résoudre les problèmes d’un espace de travail géré, examinez ensemble le rôle du membre et les paramètres de l’application. Un membre pourrait ne pas pouvoir utiliser une application, un connecteur, un MCP ou une action si :
le membre ou le groupe est affecté à un rôle du mode de verrouillage qui limite la fonctionnalité requise
l’application n’est pas attribuée au membre, au groupe ou au rôle
l’action de lecture ou d’écriture requise n’est pas activée
le membre n’a pas accès au fichier, au dépôt, au canal, à l’enregistrement ou au système source sous-jacent
un autre rôle accorde la fonctionnalité requise, mais un rôle du mode de verrouillage continue de la restreindre. Un propriétaire de l’espace de travail doit retirer le membre ou le groupe du rôle du mode de verrouillage pour rétablir l’accès.
L’accès aux applications dans ChatGPT ne remplace pas les autorisations du système source connecté. Pour en savoir plus sur l’attribution des rôles, consultez : RBAC.
Lorsqu’ils configurent des applications pour les membres qui utilisent le mode de verrouillage, les administrateurs devraient tenir compte du risque d’exfiltration de données associé à chaque application et action.
Risque élevé
Ces applications et actions ne sont pas recommandées pour les utilisateurs du mode de verrouillage :
Les actions de lecture ou d’écriture ne sont pas recommandées pour les applications non fiables. Activez seulement les applications auxquelles vous faites confiance.
Les actions d’écriture ne sont pas recommandées pour les applications fiables dont la visibilité est étendue ou incertaine. Évitez d’activer les actions d’écriture, même pour les applications fiables, si vous ne pouvez pas confirmer que l’effet secondaire est caché à un acteur malveillant.
Risque moyen
Utilisez ces éléments avec prudence pour les utilisateurs du mode de verrouillage :
Les sources indexées gérées par un administrateur peuvent réduire certaines requêtes réseau sortantes, car le contenu est récupéré dans un index existant plutôt qu’au moyen d’un appel en direct au fournisseur. Elles peuvent tout de même exposer des renseignements sensibles, et leur disponibilité en mode de verrouillage dépend de l’espace de travail, de la source et de la politique de sécurité.
Les actions de lecture des applications fiables présentent un risque moindre comme voie possible d’exfiltration de données, puisqu’elles ne créent aucun effet secondaire d’écriture. Elles peuvent tout de même servir de sources de données sensibles qu’un acteur malveillant pourrait tenter d’exfiltrer.
Les actions d’écriture des applications fiables à visibilité limitée présentent un risque plus élevé que les actions de lecture, car elles créent des effets secondaires. Activez-les seulement si vous êtes certain que tout effet secondaire est visible uniquement par des personnes auxquelles vous faites confiance, et non par un acteur malveillant.
Les administrateurs Enterprise et Edu admissibles peuvent utiliser les enregistrements accessibles sur la plateforme de conformité pour examiner l’activité prise en charge des applications, sous réserve de la configuration et des autorisations de l’espace de travail. Pour en savoir plus, consultez : Plateforme de conformité OpenAI pour les clients Enterprise et Edu.
Activer le mode de verrouillage
Comptes personnels et comptes ChatGPT Business en libre-service
Pour les comptes personnels admissibles et les comptes ChatGPT Business en libre-service :
Accédez aux Paramètres.
Sélectionnez Sécurité.
Sous Sécurité avancée, activez le Mode de verrouillage.
Dans la fenêtre de confirmation, sélectionnez Activer.
Le mode de verrouillage et le mode développeur ne peuvent pas être utilisés en même temps. L’activation du mode de verrouillage désactive le mode développeur. Si vous activez le mode développeur plus tard, le mode de verrouillage sera désactivé.
Lorsque le mode de verrouillage est activé, vous pouvez le désactiver pour une seule conversation. Sur le Web, sélectionnez l’étiquette MODE DE VERROUILLAGE dans la zone de saisie, puis Désactiver pour cette conversation.
Pour modifier le paramètre à partir du menu de la conversation :
Ouvrez le menu d’options supplémentaires (•••).
Sélectionnez Verrouillage.
Sélectionnez Désactivé pour le désactiver dans cette conversation, ou Activé pour le réactiver.
Pour ouvrir les paramètres de Sécurité de votre compte, sélectionnez Gérer le verrouillage dans la boîte de dialogue de la zone de saisie.
Espaces de travail gérés
Les administrateurs d’espace de travail peuvent créer un rôle personnalisé et le désigner comme rôle de « mode de verrouillage », puis y affecter des membres ou des groupes.
FAQ
Qui peut activer le mode de verrouillage?
Les utilisateurs de comptes personnels admissibles et de comptes ChatGPT Business en libre-service peuvent activer le mode de verrouillage sous Paramètres > Sécurité lorsqu’il est offert pour leur compte. Les administrateurs d’espace de travail peuvent activer le mode de verrouillage pour les membres d’un espace de travail géré au moyen de contrôles d’accès basés sur les rôles.
Le mode de verrouillage désactive-t-il l’entraînement?
Non. Le mode de verrouillage ne modifie pas la possibilité que vos conversations soient utilisées pour améliorer les modèles. Vous pouvez gérer cela séparément dans les contrôles des données. Les contrôles des données de l’espace de travail continuent de dépendre du forfait et des paramètres de l’espace de travail.
Puis-je utiliser la génération d’images en mode de verrouillage?
Oui. Le mode de verrouillage limite la prise en charge des images dans les réponses régulières de ChatGPT et les images provenant du Web, mais il ne désactive pas la génération d’images.
Puis-je désactiver le mode de verrouillage pour une seule conversation?
Oui. Sélectionnez l’étiquette MODE DE VERROUILLAGE dans la zone de saisie Web, puis Désactiver pour cette conversation. Vous pouvez aussi modifier le paramètre à partir du menu de la conversation, comme décrit ci-dessus. Dans les deux cas, seule la conversation actuelle est modifiée.
Le mode de verrouillage a-t-il une incidence sur Codex?
Non. Le mode de verrouillage n’a aucune incidence sur l’accès au réseau dans Codex.
Le mode de verrouillage prévient-il toutes les attaques par injection d’invite?
Le mode de verrouillage vise à réduire considérablement le risque d’exfiltration de données par injection d’invite dans ChatGPT et les produits OpenAI pris en charge, mais il ne garantit pas qu’une exfiltration de données est impossible. Un risque peut subsister en raison des applications activées, de combinaisons imprévues de fonctionnalités ou de techniques nouvellement découvertes.
Le mode de verrouillage ne prévient pas non plus tous les autres effets des attaques par injection d’invite. Par exemple, une instruction malveillante cachée dans un fichier téléversé pourrait encore influencer le comportement de ChatGPT et produire une réponse incorrecte.
L’injection d’invite constitue-t-elle un risque majeur?
L’injection d’invite est un risque de sécurité connu lorsqu’un système d’IA traite du contenu non fiable. Le mode de verrouillage peut réduire certaines voies d’exfiltration de données, mais il ne prévient pas toutes les attaques par injection d’invite et n’élimine pas tous les risques de sécurité.
Le mode de verrouillage modifie-t-il les données consignées dans la plateforme des journaux de l’API de conformité?
Le mode de verrouillage ne modifie pas à lui seul les enregistrements accessibles sur la plateforme de conformité. L’accès aux données de conformité et leur conservation dépendent de l’espace de travail admissible, des autorisations d’administrateur et des paramètres de produit applicables.