Le mode de verrouillage est en cours de déploiement pour les comptes personnels éligibles, notamment Free, Go, Plus et Pro, ainsi que pour les comptes ChatGPT Business en libre-service. Si le mode de verrouillage n’apparaît pas dans vos paramètres, il n’est peut-être pas encore disponible pour votre compte.
Présentation
Le mode de verrouillage est un paramètre de sécurité avancé facultatif qui limite de nombreux outils et fonctionnalités des produits OpenAI pouvant se connecter au web ou à des services externes. Il est conçu pour réduire le risque d’exfiltration de données lié aux attaques par injection de prompt en limitant les requêtes réseau sortantes, au prix de la désactivation ou de la limitation de certaines fonctionnalités utiles.
Le mode de verrouillage n’est pas destiné à tout le monde. Il est conçu pour les personnes et les organisations qui traitent des données sensibles et souhaitent une protection renforcée contre les risques d’exfiltration de données liés aux attaques par injection de prompt.
Disponibilité
Le mode de verrouillage est disponible pour tous les types de comptes et tous les espaces de travail. Vous devez être connecté pour l’utiliser.
Comment le mode de verrouillage contribue à réduire le risque d’exfiltration de données
Les attaques par injection de prompt sont un problème de recherche de pointe, et nous travaillons continuellement à renforcer nos systèmes de sécurité multicouches afin de protéger les utilisateurs contre de telles attaques.
Le mode de verrouillage s’appuie sur des mesures de protection aux niveaux des modèles, des produits et des systèmes. Cela inclut le sandboxing, les protections contre l’exfiltration de données par URL, la surveillance et le contrôle, ainsi que des contrôles d’entreprise tels que le contrôle d’accès basé sur les rôles et les journaux d’audit.
Le mode de verrouillage est conçu pour contribuer à empêcher l’étape finale de l’exfiltration de données lors d’une attaque par injection de prompt, en limitant les requêtes réseau sortantes susceptibles de transférer des données sensibles à un attaquant. Le mode de verrouillage n’empêche pas les attaques par injection de prompt d’apparaître dans le contenu que ChatGPT traite. Par exemple, une attaque par injection de prompt pourrait apparaître dans du contenu web mis en cache ou dans un fichier téléversé, et pourrait tout de même affecter le comportement ou l’exactitude d’une réponse.
Plus précisément, pour les personnes en mode de verrouillage, les fonctionnalités suivantes des produits OpenAI sont désactivées :
Navigation sur le web en direct : la navigation sur le web est limitée à l’accès au contenu mis en cache. Les résultats de recherche peuvent être limités, indisponibles ou obsolètes.
Prise en charge des images : il se peut que ChatGPT n’affiche pas d’images dans les réponses standard ou ne récupère pas d’images sur le web. Les utilisateurs peuvent toujours télécharger des fichiers images et la génération d’images reste disponible là où elle est par ailleurs disponible.
Recherche approfondie : la recherche approfondie est désactivée.
Mode agent : le mode agent est désactivé.
Réseau de Canvas : vous ne pouvez pas autoriser le code généré par Canvas à accéder au réseau.
Téléchargement de fichiers : ChatGPT ne peut pas télécharger de fichiers pour l’analyse de données. ChatGPT peut toujours traiter les fichiers que vous avez téléchargés manuellement.
Le mode de verrouillage ne modifie pas la mémoire, le transfert de fichiers, la possibilité de partager une conversation ni le fait que vos conversations puissent être utilisées pour améliorer les modèles. Bon nombre de ces paramètres sont configurables séparément par les administrateurs des espaces de travail.
Le mode de verrouillage n’affecte pas l’accès réseau dans Codex.
Applications
Le fonctionnement des applications et des connecteurs en mode de verrouillage dépend de votre type de compte et des paramètres de l’espace de travail.
Pour les comptes personnels et les comptes ChatGPT Business en libre-service, le mode de verrouillage autorise les connecteurs qui utilisent des données synchronisées, mais bloque l’accès en direct aux connecteurs et les actions d’écriture des connecteurs. Certaines expériences connectées, notamment Finances dans ChatGPT et les expériences d’agent d’achat, ne sont pas disponibles en mode de verrouillage.
Pour les espaces de travail gérés, les applications, les MCP et les connecteurs sont contrôlés par les paramètres de l’espace de travail et les contrôles d’accès basés sur les rôles. Le mode de verrouillage ne désactive pas automatiquement toutes les applications dans ces espaces de travail. Les administrateurs de l’espace de travail ne doivent activer que les applications et actions de confiance dont les membres utilisant le mode de verrouillage ont besoin.
Pour résoudre les problèmes liés à un espace de travail géré, examinez conjointement le rôle du membre et les paramètres de l’application. Un membre peut ne pas être en mesure d’utiliser une application, un connecteur, un MCP ou une action si :
le membre ou le groupe est affecté à un rôle du mode de verrouillage qui limite la capacité requise
l’application n’est pas attribuée au membre, au groupe ou au rôle
l’action de lecture ou d’écriture requise n’est pas activée
le membre n’a pas accès au fichier, au dépôt, au canal, à l’enregistrement ou au système source sous-jacent
L’accès aux applications dans ChatGPT ne remplace pas les autorisations du système source connecté. Pour plus d’informations sur l’attribution de rôles, consultez : RBAC.
Lors de la configuration d’applications pour des membres utilisant le mode de verrouillage, les administrateurs doivent tenir compte du risque d’exfiltration de données de chaque application et de chaque action.
Risque élevé
Ces applications et actions ne sont pas recommandées pour les utilisateurs du mode de verrouillage :
Les actions de lecture ou d’écriture pour les applications non fiables ne sont pas recommandées. N’activez que les applications auxquelles vous faites confiance.
Les actions d’écriture pour les applications de confiance ayant une visibilité étendue ou incertaine ne sont pas recommandées. Évitez d’activer les actions d’écriture, même pour les applications de confiance, si vous ne pouvez pas confirmer que l’effet de bord est masqué aux yeux d’un acteur malveillant.
Risque moyen
À utiliser avec prudence pour les utilisateurs en mode de verrouillage :
Les connecteurs synchronisés présentent un risque moindre en tant que « point de fuite » potentiel pour l’exfiltration de données, car les données consultées sont déjà synchronisées avec OpenAI ; les requêtes n’envoient donc pas de requêtes réseau en temps réel en dehors d’OpenAI. Ils peuvent toujours constituer des sources de données sensibles qu’un acteur malveillant pourrait tenter d’exfiltrer.
Les actions en lecture des applications de confiance présentent un faible risque en tant que possible « point de fuite » pour l’exfiltration de données, car elles ne créent pas d’effets secondaires côté écriture. Elles peuvent toujours constituer des sources de données sensibles qu’un acteur malveillant pourrait tenter d’exfiltrer.
Les actions d’écriture pour les applications de confiance avec une visibilité limitée présentent un risque plus élevé que les actions de lecture, car elles créent des effets secondaires. N’activez ces actions que si vous êtes certain que tous les effets secondaires ne sont visibles que par des personnes en qui vous avez confiance, non par un acteur malveillant.
Indépendamment du mode de verrouillage, la plateforme de journaux de l’API de conformité offre une visibilité détaillée sur l’utilisation des applications, les données partagées et les sources connectées afin d’aider les administrateurs à assurer la supervision. Pour plus d’informations sur les journaux d’utilisation des applications, consultez : API de conformité pour les clients entreprise.
Activer le mode de verrouillage
Comptes personnels et comptes ChatGPT Business en libre-service
Pour les comptes personnels éligibles et les comptes ChatGPT Business en libre-service :
Accédez aux Paramètres.
Sélectionnez Sécurité.
Sous sécurité avancée, activez le mode de verrouillage.
Dans la fenêtre modale de confirmation, sélectionnez Activer.
Le mode de verrouillage et le mode développeur ne peuvent pas être utilisés simultanément. L’activation du mode de verrouillage désactive le mode développeur. L’activation ultérieure du mode développeur désactive le mode de verrouillage.
Lorsque le mode de verrouillage est activé, un message d’état s’affiche au-dessus du champ de saisie. Pour le désactiver pour une seule conversation, sélectionnez Gérer dans ce message de statut, puis sélectionnez Désactiver pour cette conversation. Vous pouvez également ouvrir le menu Plus d’options (•••), sélectionner Verrouillage, puis sélectionner Désactivé. Pour le réactiver pour cette discussion, sélectionnez Verrouillage, puis sélectionnez Activé.
Espaces de travail gérés
Les administrateurs de l’espace de travail peuvent créer un rôle personnalisé et le désigner comme rôle de « mode de verrouillage », puis attribuer des membres ou des groupes à ce rôle.
FAQ
Qui peut activer le mode de verrouillage ?
Les utilisateurs disposant de comptes personnels éligibles et de comptes ChatGPT Business en libre-service peuvent activer le mode de verrouillage dans Paramètres > Sécurité lorsque celui-ci est disponible pour leur compte. Les administrateurs de l’espace de travail peuvent activer le mode de verrouillage pour les membres gérés de l’espace de travail à l’aide des contrôles d’accès basés sur les rôles.
Le mode de verrouillage désactive-t-il l’entraînement ?
Non. Le mode de verrouillage ne change pas le fait que vos conversations puissent être utilisées pour améliorer les modèles. Vous pouvez gérer ce paramètre séparément dans les contrôles des données. Les contrôles des données de l’espace de travail continuent de dépendre du plan et des paramètres de l’espace de travail.
Puis-je utiliser la génération d’images en mode de verrouillage ?
Oui. Le mode de verrouillage limite la prise en charge des images dans les réponses ChatGPT classiques et les images issues du web, mais il ne désactive pas la génération d’images.
Puis-je désactiver le mode de verrouillage pour une seule conversation ?
Oui. Lorsque le mode de verrouillage est activé, sélectionnez l’onglet verrouillage au-dessus du champ de saisie, puis sélectionnez désactiver pour cette conversation. Vous pouvez également ouvrir le menu Plus d’options (•••), sélectionner Verrouillage, puis sélectionner Désactivé. Cela ne modifie que la conversation actuelle.
Le mode de verrouillage a-t-il une incidence sur Codex ?
Non. Le mode de verrouillage n’affecte pas l’accès réseau dans Codex.
Le mode de verrouillage empêche-t-il toutes les attaques par injection de prompt ?
Le mode de verrouillage est conçu pour réduire considérablement le risque d’exfiltration de données liées à des attaques par injection de prompt dans ChatGPT et les produits OpenAI pris en charge, mais il ne garantit pas que l’exfiltration de données ne puisse pas se produire. Un risque peut subsister en raison d’applications activées, de combinaisons imprévues de capacités ou de techniques récemment découvertes.
Le mode de verrouillage n’empêche pas non plus tous les autres effets des attaques par injection de prompt. Par exemple, une instruction malveillante dissimulée dans un fichier importé pourrait tout de même influencer le comportement de ChatGPT et entraîner une réponse incorrecte.
Les attaques par injection de prompt représentent-elles un risque majeur ?
Les attaques par injection de prompt ne représentent pas actuellement un risque majeur, mais leur impact pourrait croître à mesure que les attaquants développent des méthodes plus sophistiquées.
Le mode de verrouillage modifie-t-il ce qui est consigné dans les journaux de conformité de l'API ?
Non. La plateforme de journaux de l’API pour la conformité offre une visibilité détaillée sur l’utilisation des applications, les données partagées et les sources connectées. Ces journaux ne sont pas modifiés par le mode de verrouillage.