L’article 5 du règlement de l’UE sur l’IA interdit certaines utilisations de technologies d’IA qui présentent un niveau de risque inacceptable. Bien que nous ayons mis en place certaines mesures de protection techniques, OpenAI, en tant que fournisseur de technologies d’IA à usage général, s’attend également à ce que ses clients (utilisateurs individuels, développeurs et entreprises) respectent les exigences légales applicables, notamment en évitant toute activité illégale au titre du règlement de l’UE sur l’IA s’ils sont situés ou établis dans l’UE. Cet article vise à clarifier la nature de ces pratiques interdites; il ne constitue pas un avis juridique sur la façon dont vous devez respecter vos propres obligations au titre du règlement de l’UE sur l’IA.
Les utilisations suivantes de l’IA sont interdites par le règlement de l’UE sur l’IA et, comme nous l’expliquons plus en détail dans nos Politiques d’utilisation et nos autres conditions, vous ne devez utiliser aucun service d’OpenAI pour vous y livrer :
Employer des techniques subliminales, délibérément manipulatrices ou trompeuses visant à altérer sensiblement le comportement d’une personne ou d’un groupe de personnes — c’est-à-dire à compromettre leur capacité à prendre une décision éclairée — d’une manière susceptible de causer un préjudice à cette personne ou à autrui.
Exploiter les vulnérabilités d’une personne ou d’un groupe de personnes en raison de leur âge, de leur handicap ou de leur situation sociale ou économique, d’une manière qui altère sensiblement leur comportement et qui est susceptible de causer un préjudice important à cette personne ou à autrui.
Attribuer une note sociale (fondée sur la classification de personnes ou de groupes sur une certaine période selon leur comportement, leurs caractéristiques personnelles ou des caractéristiques déduites ou prédites) qui :
Entraîne un traitement défavorable de personnes ou de groupes dans des contextes sociaux sans rapport, ou
Entraîne un traitement défavorable de personnes ou de groupes qui est injustifié ou disproportionné par rapport à leur comportement.
Effectuer des évaluations des risques que présentent des personnes en se fondant uniquement sur leur profilage ou sur l’évaluation de leurs traits de personnalité afin de prédire si elles pourraient commettre un crime.
Créer ou élargir des bases de données de reconnaissance faciale par la collecte non ciblée d’images faciales provenant d’Internet ou d’enregistrements de vidéosurveillance.
Déduire les émotions en milieu de travail ou dans les établissements d’enseignement (sauf si une exception médicale ou de sécurité s’applique).
Catégoriser des personnes à partir de leurs données biométriques afin de déduire leur race, leurs opinions politiques, leur appartenance syndicale, leurs croyances religieuses ou philosophiques, leur vie sexuelle ou leur orientation sexuelle (sauf à partir d’ensembles de données acquis légalement dans un contexte comme celui d’activités autorisées d’application de la loi).
Effectuer une identification biométrique à distance « en temps réel » dans des espaces accessibles au public à des fins d’application de la loi, sauf si elle est strictement nécessaire pour :
La recherche ciblée de personnes disparues ou de victimes précises d’enlèvement, de traite des personnes ou d’exploitation sexuelle;
La prévention d’une menace précise, grave et imminente pour la vie ou la sécurité physique d’une personne, ou d’un attentat terroriste;
L’identification de personnes soupçonnées de certaines infractions criminelles.
Pour en savoir plus sur les utilisations permises de nos services et les autres activités interdites, veuillez consulter les Politiques d’utilisation d’OpenAI et ses autres conditions. La Commission européenne a également publié des lignes directrices sur les pratiques interdites qui pourraient vous aider à évaluer vos propres obligations légales et à éviter ces pratiques dans vos systèmes ou produits.