Présentation
Le mode de verrouillage peut être disponible pour les comptes personnels éligibles, les comptes ChatGPT Business en libre-service et les espaces de travail gérés pris en charge. La disponibilité dépend de votre compte, de votre espace de travail, du déploiement actuel du produit et des paramètres définis par l'administrateur.
Le mode de verrouillage est un paramètre de sécurité avancé facultatif qui limite de nombreux outils et fonctionnalités des produits OpenAI pouvant se connecter au web ou à des services externes. Il est conçu pour réduire le risque d'exfiltration de données lié aux attaques par injection de prompt en limitant les requêtes réseau sortantes, au prix de la désactivation ou de la limitation de certaines fonctionnalités utiles.
Le mode de verrouillage n'est pas destiné à tout le monde. Il est conçu pour les personnes et les organisations qui traitent des données sensibles et souhaitent une protection renforcée contre les risques d'exfiltration de données liés aux attaques par injection de prompt.
Disponibilité
Le mode de verrouillage exige que vous soyez connecté à un compte et n'est disponible que si votre forfait, votre espace de travail, la surface du produit et la configuration de l'administrateur le prennent en charge.
Comment le mode de verrouillage contribue à réduire le risque d’exfiltration de données
L'attaque par injection de prompt est un problème de recherche complexe. Nous travaillons continuellement à renforcer nos systèmes de sécurité et de sûreté multicouches afin de protéger les utilisateurs contre de telles attaques.
Le mode de verrouillage s'appuie sur des mesures de protection aux niveaux des modèles, des produits et des systèmes. Cela inclut le sandboxing, les protections contre l'exfiltration de données par URL, la surveillance et le contrôle, ainsi que des contrôles d'entreprise tels que le contrôle d'accès basé sur les rôles et les journaux d'audit.
Le mode de verrouillage est conçu pour contribuer à empêcher l'étape finale de l'exfiltration de données lors d'une attaque par injection de prompt, en limitant les requêtes réseau sortantes susceptibles de transférer des données sensibles à un attaquant. Le mode de verrouillage n'empêche pas les attaques par injection de prompt d'apparaître dans le contenu que ChatGPT traite. Par exemple, une attaque par injection de prompt pourrait apparaître dans du contenu web mis en cache ou dans un fichier téléversé, et pourrait tout de même affecter le comportement ou l'exactitude d'une réponse.
Le mode de verrouillage désactive ou limite les fonctionnalités suivantes des produits OpenAI :
Navigation sur le Web en direct : la navigation sur le Web est limitée à l'accès au contenu mis en cache. Les résultats de recherche peuvent être limités, indisponibles ou obsolètes.
Prise en charge des images : il se peut que ChatGPT n'affiche pas d'images dans les réponses standard ou ne récupère pas d'images sur le web. Les utilisateurs peuvent toujours télécharger des fichiers images et la génération d'images reste disponible là où elle est par ailleurs disponible.
Recherche approfondie : la recherche approfondie est désactivée.
Mode de l'agent : le mode de l'agent est désactivé.
Réseau de Canvas : les utilisateurs ne peuvent pas autoriser le code généré par Canvas à accéder au réseau.
Téléchargement de fichiers : ChatGPT ne peut pas télécharger de fichiers pour l'analyse de données. ChatGPT peut toujours traiter les fichiers que vous avez téléchargés manuellement.
Le mode de verrouillage ne modifie pas la mémoire, le transfert de fichiers, la possibilité de partager une conversation ni le fait que vos conversations puissent être utilisées pour améliorer les modèles. Bon nombre de ces paramètres sont configurables séparément par les administrateurs des espaces de travail.
Le mode de verrouillage n’affecte pas l’accès réseau dans Codex.
Applications
Le fonctionnement des applications et des connecteurs en mode de verrouillage dépend de votre type de compte et des paramètres de l'espace de travail.
Pour les comptes personnels et les comptes ChatGPT Business en libre-service, le mode de verrouillage bloque l'accès en direct aux services externes et les actions d'écriture des connecteurs lorsque ces actions entrent en conflit avec ses protections de sécurité. Les comptes individuels ne peuvent pas configurer la synchronisation des applications. Dans un espace de travail géré éligible, l'accès à une source existante gérée par l'administrateur dépend également des autorisations de l'espace de travail et de la stratégie actuelle du mode de verrouillage. Certaines expériences connectées, notamment Finances dans ChatGPT et les expériences d'agent d'achat, ne sont pas disponibles en mode de verrouillage.
Pour les espaces de travail gérés, les applications, les MCP et les connecteurs sont contrôlés par les paramètres de l'espace de travail et les contrôles d'accès basés sur les rôles. Le mode de verrouillage ne désactive pas automatiquement toutes les applications dans ces espaces de travail. Les administrateurs de l'espace de travail ne doivent activer que les applications et actions de confiance dont les membres utilisant le mode de verrouillage ont besoin.
Pour résoudre les problèmes liés à un espace de travail géré, examinez conjointement le rôle du membre et les paramètres de l'application. Un membre peut ne pas être en mesure d'utiliser une application, un connecteur, un MCP ou une action si :
le membre ou le groupe est affecté à un rôle du mode de verrouillage qui limite la capacité requise
l’application n’est pas attribuée au membre, au groupe ou au rôle
l’action de lecture ou d’écriture requise n’est pas activée
le membre n’a pas accès au fichier, au dépôt, au canal, à l’enregistrement ou au système source sous-jacent
un autre rôle accorde la capacité requise, mais un rôle du mode de verrouillage la restreint tout de même. Un propriétaire de l'espace de travail doit retirer le membre ou le groupe du rôle du mode de verrouillage pour rétablir l'accès.
L’accès aux applications dans ChatGPT ne remplace pas les autorisations du système source connecté. Pour plus d’informations sur l’attribution de rôles, consultez : RBAC.
Lors de la configuration d’applications pour des membres utilisant le mode de verrouillage, les administrateurs doivent tenir compte du risque d’exfiltration de données de chaque application et de chaque action.
Risque élevé
Ces applications et actions ne sont pas recommandées pour les utilisateurs du mode de verrouillage :
Les actions en lecture ou en écriture des applications non fiables ne sont pas recommandées. N'activez que les applications auxquelles vous faites confiance.
Les actions d'écriture pour les applications de confiance dont la visibilité est étendue ou incertaine ne sont pas recommandées. Évitez d'activer les actions d'écriture, même pour les applications de confiance, si vous ne pouvez pas confirmer que l'effet de bord est masqué aux yeux d'un acteur malveillant.
Risque moyen
À utiliser avec prudence pour les utilisateurs en mode de verrouillage :
Les sources indexées gérées par l'administrateur peuvent réduire certaines requêtes réseau sortantes, car le contenu est récupéré à partir d'un index existant plutôt que via un appel en temps réel au fournisseur. Ils peuvent tout de même exposer des informations sensibles, et leur disponibilité en mode de verrouillage dépend de l'espace de travail, de la source et de la politique de sécurité.
Les actions en lecture des applications de confiance présentent un risque moindre en tant que possible « point de fuite » pour l'exfiltration de données, car elles ne créent pas d'effets secondaires côté écriture. Ils peuvent toujours constituer des sources de données sensibles qu'un acteur malveillant pourrait tenter d'exfiltrer.
Les actions d'écriture pour les applications de confiance avec une visibilité limitée présentent un risque plus élevé que les actions de lecture, car elles créent des effets secondaires. N'activez ces actions que si vous êtes certain que tous les effets secondaires ne sont visibles que par des personnes en qui vous avez confiance, non par un acteur malveillant.
Les administrateurs Enterprise et Edu éligibles peuvent utiliser les enregistrements disponibles de la plateforme de conformité pour examiner l'activité des applications prises en charge, sous réserve de la configuration et des autorisations de l'espace de travail. Pour plus de détails, consultez : Plateforme de conformité OpenAI pour les clients Enterprise et Edu.
Activer le mode de verrouillage
Comptes personnels et comptes ChatGPT Business en libre-service
Pour les comptes personnels éligibles et les comptes ChatGPT Business en libre-service :
Accédez aux Paramètres.
Sélectionnez Sécurité.
Sous sécurité avancée, activez le mode de verrouillage.
Dans la fenêtre modale de confirmation, sélectionnez Activer.
Le mode de verrouillage et le mode développeur ne peuvent pas être utilisés simultanément. L'activation du mode de verrouillage désactive le mode développeur. L'activation ultérieure du mode développeur désactive le mode de verrouillage.
Lorsque le mode de verrouillage est activé, vous pouvez le désactiver pour une seule conversation. Sur le Web, sélectionnez le libellé MODE DE VERROUILLAGE dans le champ de saisie, puis sélectionnez Désactiver pour cette conversation.
Pour modifier le paramètre depuis le menu de la conversation :
Ouvrez le menu plus d'options (•••).
Sélectionnez Verrouillage.
Sélectionnez Désactivé pour le désactiver pour cette conversation, ou Activé pour le réactiver.
Pour ouvrir les paramètres de Sécurité de votre compte, sélectionnez Gérer le verrouillage dans la boîte de dialogue de composition.
Espaces de travail gérés
Les administrateurs de l’espace de travail peuvent créer un rôle personnalisé et le désigner comme rôle de « mode de verrouillage », puis attribuer des membres ou des groupes à ce rôle.
FAQ
Qui peut activer le mode de verrouillage ?
Les utilisateurs disposant de comptes personnels éligibles et de comptes ChatGPT Business en libre-service peuvent activer le mode de verrouillage dans Paramètres > Sécurité lorsque cette fonctionnalité est disponible pour leur compte. Les administrateurs de l'espace de travail peuvent activer le mode de verrouillage pour les membres gérés de l'espace de travail à l'aide des contrôles d'accès basés sur les rôles.
Le mode de verrouillage désactive-t-il l’entraînement ?
Non. Le mode de verrouillage ne change pas le fait que vos conversations puissent être utilisées pour améliorer les modèles. Vous pouvez gérer ce paramètre séparément dans les contrôles des données. Les contrôles des données de l’espace de travail continuent de dépendre du plan et des paramètres de l’espace de travail.
Puis-je utiliser la génération d’images en mode de verrouillage ?
Oui. Le mode de verrouillage limite la prise en charge des images dans les réponses ChatGPT classiques et les images issues du web, mais il ne désactive pas la génération d’images.
Puis-je désactiver le mode de verrouillage pour une seule conversation ?
Oui. Sélectionnez le libellé MODE DE VERROUILLAGE dans le champ de saisie web, puis sélectionnez Désactiver pour cette conversation. Vous pouvez également modifier le paramètre depuis le menu de discussion, comme décrit ci-dessus. Ces deux options ne modifient que la conversation actuelle.
Le mode de verrouillage a-t-il une incidence sur Codex ?
Non. Le mode de verrouillage n’affecte pas l’accès réseau dans Codex.
Le mode de verrouillage empêche-t-il toutes les attaques par injection de prompt ?
Le mode de verrouillage est conçu pour réduire considérablement le risque d'exfiltration de données par attaque par injection de prompt dans ChatGPT et les produits OpenAI pris en charge, mais il ne garantit pas que l'exfiltration de données ne puisse pas se produire. Un risque peut subsister en raison d'applications activées, de combinaisons imprévues de capacités ou de techniques récemment découvertes.
Le mode de verrouillage n'empêche pas non plus tous les autres effets des attaques par injection de prompt. Par exemple, une instruction malveillante dissimulée dans un fichier importé pourrait tout de même influencer le comportement de ChatGPT et entraîner une réponse incorrecte.
Les attaques par injection de prompt représentent-elles un risque majeur ?
L'attaque par injection de prompt est un risque de sécurité connu lorsqu'un système d'IA traite du contenu non fiable. Le mode de verrouillage peut réduire certaines voies d'exfiltration de données, mais il n'empêche pas toutes les attaques par injection de prompt et n'élimine pas tous les risques de sécurité.
Le mode de verrouillage modifie-t-il ce qui est consigné dans les journaux de conformité de l'API ?
Le mode de verrouillage ne modifie pas à lui seul les enregistrements de Compliance Platform qui sont disponibles. L'accès aux données de conformité et leur conservation dépendent de l'espace de travail éligible, des autorisations de l'administrateur et des paramètres applicables du produit.