Les modèles de fondation d’OpenAI, y compris ceux qui alimentent ChatGPT, sont développés à partir de trois principales sources d’information : (1) l’information accessible au public sur Internet, (2) l’information à laquelle nous accédons en partenariat avec des tiers et (3) l’information fournie ou générée par nos utilisateurs, nos formateurs humains et nos chercheurs.
Le développement de modèles de fondation comme ceux utilisés dans ChatGPT comporte plusieurs étapes, notamment la préparation des données d’entraînement, le pré-entraînement et le post-entraînement, ainsi que l’évaluation et l’amélioration continues après le déploiement. Différents types d’information peuvent être utilisés à ces étapes à diverses fins, notamment pour améliorer la performance, la fiabilité et la sécurité des modèles.
Cet article présente un aperçu de l’information que nous utilisons pour contribuer au développement de ces modèles, de la façon dont nous la recueillons et l’utilisons conformément aux lois sur la protection de la vie privée, ainsi que des mesures de protection que nous appliquons tout au long du processus d’entraînement. Pour comprendre comment nous recueillons et utilisons l’information provenant des utilisateurs de nos services, y compris comment refuser que les conversations ChatGPT servent à améliorer nos modèles, veuillez consulter notre politique de confidentialité et cet article du centre d’assistance.
Qu’est-ce que ChatGPT et comment fonctionne-t-il?
ChatGPT est un service fondé sur l’intelligence artificielle auquel vous pouvez accéder par Internet ou au moyen d’une application. Vous pouvez utiliser ChatGPT pour un large éventail de tâches, notamment organiser et résumer de l’information, faciliter la traduction, aider à la programmation, à la recherche et à l’analyse, accomplir des tâches en plusieurs étapes dans différents outils, analyser ou générer des images, stimuler la créativité et les idées, et réaliser d’autres activités quotidiennes. ChatGPT est conçu pour comprendre les questions et les instructions des utilisateurs et y répondre en apprenant des tendances à partir de grandes quantités d’information, notamment du texte, des images, du contenu audio et des vidéos.
Pendant l’entraînement, le modèle analyse les relations au sein de ces données, comme la façon dont les mots apparaissent habituellement ensemble dans leur contexte, et utilise cette compréhension pour prédire, un mot à la fois, le prochain mot le plus probable lorsqu’il génère une réponse. Le texte peut être converti en unités plus petites, parfois appelées « jetons », qui peuvent représenter des mots entiers, des parties de mots ou des signes de ponctuation. Les jetons sont les éléments constitutifs du texte que le modèle traite. De même, les modèles qui génèrent d’autres formes de contenu, comme des images, apprennent les tendances dans les relations entre les pixels et les légendes connexes dans les données d’entraînement.
Par exemple, pendant le processus d’apprentissage du modèle (appelé « entraînement »), on pourrait lui demander de compléter une phrase comme : « Au lieu de tourner à gauche, elle a tourné à ___. » Au début de l’entraînement, ses réponses sont en grande partie aléatoires. Cependant, à mesure que le modèle traite un grand volume de texte et en tire des apprentissages, il parvient mieux à reconnaître les tendances et à prédire le prochain mot le plus probable. Ce processus est répété sur des millions de phrases afin d’affiner sa compréhension et d’améliorer son exactitude.
Comme une phrase peut être complétée de plusieurs façons plausibles — par exemple, « Au lieu de tourner à gauche, elle a tourné à droite », « sur elle-même » ou « en arrière » —, les réponses du modèle comportent une part inhérente de hasard. Par conséquent, une même question peut produire des réponses différentes d’une requête à l’autre.
Les modèles d’apprentissage automatique sont constitués de grands ensembles de nombres, appelés « poids » ou « paramètres », ainsi que de code qui interprète et utilise ces nombres. Ces modèles ne stockent ni ne conservent de copies des données sur lesquelles ils sont entraînés. À mesure qu’un modèle apprend, les valeurs de ses paramètres sont plutôt légèrement ajustées pour refléter les tendances qu’il a relevées. Dans l’exemple précédent, le modèle est passé de la prédiction de mots aléatoires à des prédictions plus exactes, non pas en stockant les phrases d’entraînement, mais en mettant à jour ses paramètres internes. Le modèle ne conserve pas de copies des phrases, des images ou du contenu audio qu’il traite pendant l’entraînement. ChatGPT ne fait pas de « copier-coller » à partir de ses données d’entraînement, un peu comme un enseignant qui, après une étude approfondie, peut expliquer des concepts en comprenant les relations entre les idées sans mémoriser ni reproduire mot pour mot les documents d’origine. Lorsqu’il génère une réponse à une demande d’un utilisateur, le modèle utilise ces poids appris pour prédire et créer du nouveau contenu.
Quel type d’information sert à enseigner à ChatGPT?
Pour le contenu Internet accessible au public, nous utilisons uniquement l’information librement et ouvertement accessible sur Internet. Cela peut comprendre des pages Web, des forums, des blogues, des publications et d’autres contenus en ligne accessibles au public. Par exemple, si vous participez à un forum de discussion en ligne accessible au public ou publiez un blogue ou une autre publication publique, nous pouvons utiliser ce contenu accessible au public pour entraîner nos modèles. Cependant, nous prenons des mesures pour réduire le traitement des renseignements personnels dans notre processus d’entraînement. Lorsque nous recueillons du contenu Internet accessible au public, nous ne recueillons pas intentionnellement de données provenant de sources connues pour être payantes ni du Web clandestin. De plus, nous appliquons des filtres pour retirer les contenus dont nous ne voulons pas que nos modèles tirent des apprentissages, comme les discours haineux, le contenu pour adultes, les sites qui regroupent des renseignements personnels et les pourriels. L’information restante est ensuite utilisée pour entraîner nos modèles.
Les propriétaires de sites Web peuvent déterminer si le contenu public de leurs sites peut être utilisé pour l’entraînement au moyen de contrôles Web standards, comme le fichier robots.txt, afin de bloquer GPTBot, qui peut explorer du contenu accessible au public pour contribuer à l’entraînement de nos modèles. Nous fournissons des directives pour aider les propriétaires de sites Web à gérer la façon dont leurs sites et leur contenu interagissent avec nos systèmes d’IA.
Nous utilisons également de l’information provenant de partenaires tiers pour contribuer à entraîner et à améliorer nos modèles. Cela peut comprendre de l’information contenue dans des jeux de données auxquels nous accédons dans le cadre d’ententes avec des tiers, ainsi que de l’information fournie ou générée par des formateurs humains et des chercheurs lorsque nos politiques et nos ententes le permettent. Cela contribue à améliorer la qualité, la sécurité et la performance de nos modèles. Selon le jeu de données, ces sources peuvent comprendre du texte, des images, du contenu audio, des vidéos ou d’autres types de données.
Nous utilisons aussi de plus en plus de données synthétiques dans certains processus d’entraînement. Par exemple, nous pouvons utiliser de l’information et nos modèles pour générer des requêtes synthétiques, des exemples multilingues ou d’autres documents d’entraînement. Les données synthétiques peuvent contribuer à améliorer la performance des modèles, notamment en complétant les données d’entraînement dans les domaines où elles sont rares ou déséquilibrées, et peuvent également soutenir des approches de développement des modèles qui renforcent la protection de la vie privée.
Des renseignements personnels servent-ils à enseigner à ChatGPT?
Une part importante du contenu en ligne contient de l’information sur des personnes; nos données d’entraînement peuvent donc comprendre incidemment des renseignements personnels. Cependant, nous prenons des mesures pour réduire le traitement des renseignements personnels dans notre processus d’entraînement.
Nous utilisons les données d’entraînement pour développer les capacités du modèle, comme la prédiction, le raisonnement et la résolution de problèmes, et non pour créer des profils de personnes, communiquer avec elles ou personnaliser les publicités qui leur sont présentées.
Dans certains cas, les modèles peuvent tirer des apprentissages de renseignements personnels pour comprendre le rôle d’éléments comme les noms et les adresses dans la langue, ou pour reconnaître des personnalités publiques et des entités bien connues. Cela aide le modèle à générer des réponses plus exactes et adaptées au contexte.
Comment les renseignements personnels sont-ils protégés pendant l’entraînement?
Nous prenons des mesures concrètes pour limiter le traitement des renseignements personnels pendant l’entraînement. Par exemple, nous excluons les sources connues qui regroupent de grandes quantités de données personnelles, appliquons des filtres pour réduire les renseignements personnels dans le processus d’entraînement et prenons des mesures pour repérer et supprimer le contenu en double afin de réduire le risque de répétition des données d’entraînement. De plus, nous entraînons nos modèles à éviter de répondre aux demandes de renseignements privés ou sensibles sur des personnes.
Durée de conservation de l’information
Nous conservons l’information contenue dans les données d’entraînement uniquement aussi longtemps qu’il est raisonnablement nécessaire aux fins décrites dans cet article et dans notre politique de confidentialité, notamment pour développer et améliorer nos modèles et mener des recherches scientifiques connexes. La conservation fait l’objet d’examens périodiques pour vérifier qu’elle demeure nécessaire et varie selon le type d’information et son utilisation. Pour déterminer la durée de conservation, nous tenons compte de facteurs comme la raison du traitement de l’information, la quantité, la nature et la sensibilité de celle-ci, le risque potentiel de préjudice découlant d’une utilisation ou d’une divulgation non autorisée, ainsi que toute obligation légale à laquelle nous sommes assujettis.
Comment le développement de ChatGPT respecte-t-il les lois sur la protection de la vie privée?
Nous utilisons légalement l’information destinée à l’entraînement. Nos modèles de fondation alimentent un vaste éventail d’applications utiles, notamment des outils d’accessibilité, le soutien à la clientèle, le développement de logiciels, l’éducation personnalisée et la recherche scientifique. Ces capacités reposent sur des données d’entraînement à grande échelle, notamment de l’information accessible au public et de l’information provenant de partenaires tiers. Nous appliquons des mesures de protection tout au long du processus d’entraînement, y compris des mesures conçues pour réduire le traitement des renseignements personnels et atténuer les risques, comme l’explique cet article. Nous fondons la collecte et l’utilisation des renseignements personnels compris dans l’information d’entraînement sur des intérêts légitimes reconnus par les lois sur la protection de la vie privée, comme le RGPD, notamment pour entraîner et améliorer nos modèles au profit des utilisateurs et de la société en général, conformément à notre mission visant à faire en sorte que l’intelligence artificielle générale profite à tous, comme l’explique plus en détail notre politique de confidentialité. Nous avons réalisé une évaluation des facteurs relatifs à la vie privée afin de nous assurer que nous recueillons et utilisons cette information de manière légale et responsable.
Cas où l’information peut être communiquée ou transférée
Nous ne « vendons » pas de renseignements personnels et ne divulguons ceux qui figurent dans les données d’entraînement que dans les circonstances limitées décrites dans notre politique de confidentialité. Par exemple, nous pouvons communiquer de l’information à des sociétés affiliées, à des fournisseurs et à des prestataires de services qui soutiennent le développement, la mise à l’essai et l’amélioration de nos modèles. Nous pouvons aussi divulguer de l’information si nous croyons de bonne foi que cette mesure est nécessaire pour respecter une obligation légale ou protéger nos droits, notre sûreté et notre sécurité, ainsi que ceux de nos utilisateurs, de nos employés ou du public, comme le décrit notre politique de confidentialité.
Comme notre infrastructure est mondiale, les renseignements personnels contenus dans les données d’entraînement peuvent être traités dans des pays situés à l’extérieur de l’EEE, de la Suisse ou du Royaume-Uni, notamment aux États-Unis. Lorsque cela se produit, nous appliquons des mesures de protection appropriées, comme des décisions d’adéquation ou des clauses contractuelles types, ainsi que le décrit notre politique de confidentialité.
Vos droits et la façon de les exercer
Nous répondons aux demandes d’opposition et aux demandes similaires liées à l’exercice de droits. En raison de son apprentissage de la langue, ChatGPT peut parfois inclure dans ses réponses des renseignements personnels sur des personnes dont les renseignements figurent à plusieurs reprises sur l’Internet public, par exemple des personnalités publiques. Dans certains territoires, les personnes peuvent s’opposer au traitement de leurs renseignements personnels par nos modèles ou présenter d’autres demandes liées aux droits des personnes concernées par l’intermédiaire de notre Portail de confidentialité. Vous pouvez également exercer ces droits en écrivant à privacy@openai.com.
Pour nous aider à évaluer votre demande et à y répondre, veuillez fournir suffisamment d’information pour nous permettre de comprendre quels renseignements personnels sont visés, comme votre nom, les URL pertinentes, des exemples précis de sorties de modèle ou d’autres détails permettant de cerner le problème. Dans certains cas, nous pouvons vous demander de vérifier votre identité ou de confirmer que l’information vous concerne avant de pouvoir intervenir. Vous trouverez plus d’information sur la présentation de ces demandes, y compris les pratiques exemplaires et leur processus d’examen, dans notre article du centre d’assistance sur la suppression des données personnelles dans ChatGPT. Nous examinons les demandes conformément aux lois applicables sur la protection de la vie privée et y répondons dans les délais prévus par la loi.
Veuillez noter que, conformément aux lois sur la protection de la vie privée, certains droits peuvent ne pas être absolus. Par exemple, nous pourrions ne pas être en mesure de donner suite à une demande si nous ne pouvons pas vérifier l’information pertinente, si la demande ne concerne pas des renseignements personnels traités par OpenAI, si une exception s’applique ou si nous avons une autre raison légale de ne pas y donner suite. Les demandes sont évaluées au cas par cas et peuvent nécessiter de mettre en balance les droits à la vie privée et d’autres considérations importantes, comme la liberté d’expression et l’intérêt public.
Cependant, nous nous efforçons d’accorder la priorité à la protection des renseignements personnels et de respecter toutes les lois applicables sur la protection de la vie privée. Si vous estimez que nous n’avons pas traité un problème de manière adéquate, vous avez le droit de déposer une plainte auprès de votre autorité de contrôle locale.
Pour en savoir plus sur les pratiques d’OpenAI concernant les renseignements personnels que nous recueillons auprès de vous ou à votre sujet lorsque vous utilisez notre site Web, nos applications et nos services, veuillez consulter notre politique de confidentialité.