Artikel 5 des EU AI Act untersagt bestimmte Anwendungen von KI-Technologie, die ein inakzeptables Risiko darstellen. Obwohl wir bestimmte technische Schutzmaßnahmen implementiert haben, erwartet OpenAI als Anbieter von KI-Technologie mit allgemeinem Verwendungszweck auch, dass unsere Kund:innen (sowohl einzelne Benutzer:innen als auch Entwickler:innen und Unternehmenskund:innen) die geltenden gesetzlichen Anforderungen einhalten, einschließlich der Vermeidung von Aktivitäten, die nach dem EU AI Act unrechtmäßig sind, wenn sie sich in der EU befinden oder dort niedergelassen sind. Dieser Artikel soll Klarheit darüber schaffen, was diese verbotenen Praktiken sind; er ist nicht als Rechtsberatung gedacht, wie du deine eigenen Verpflichtungen gemäß dem EU AI Act einhalten solltest.
Die folgenden Verwendungen von KI sind gemäß EU AI Act verboten, und du solltest – wie wir in den Nutzungsrichtlinien und anderen Bedingungen näher erläutern – keine der Dienste von OpenAI nutzen, um dich an diesen zu beteiligen:
Die Anwendung von unterschwelligen, bewusst manipulativen oder täuschenden Techniken, die darauf abzielen, das Verhalten einer Person oder einer Gruppe von Menschen erheblich zu verzerren – was bedeutet, dass ihre Fähigkeit, eine fundierte Entscheidung zu treffen, beeinträchtigt wird – und zwar in einer Weise, die wahrscheinlich Schaden für diese Person oder andere verursacht.
Die Ausnutzung der Schwachstellen einer Person oder einer Gruppe von Menschen aufgrund ihres Alters, ihrer Behinderung, ihrer sozialen oder wirtschaftlichen Lage in einer Weise, die ihr Verhalten erheblich verzerrt und wahrscheinlich großen Schaden für diese Person oder andere verursacht.
Die Zuweisung eines sozialen Scores (basierend auf der Klassifizierung von Personen oder Gruppen über einen bestimmten Zeitraum hinweg, basierend auf ihrem Verhalten, ihren persönlichen Merkmalen oder abgeleiteten/vorhergesagten Eigenschaften), der entweder:
zu einer ungünstigen Behandlung von Personen oder Gruppen in nicht zusammenhängenden sozialen Kontexten führt, oder
zu einer ungünstigen Behandlung von Einzelpersonen oder Gruppen führt, die ungerechtfertigt oder unverhältnismäßig zu ihrem Verhalten ist.
Die Durchführung von Risikobewertungen von Personen ausschließlich basierend auf Profilen oder der Beurteilung ihrer Persönlichkeitsmerkmale, um vorherzusagen, ob sie möglicherweise ein Verbrechen begehen könnten.
Die Erstellung oder Erweiterung von Gesichtserkennungsdatenbanken durch ungezieltes Scraping von Gesichtsaufnahmen aus dem Internet oder von Videoüberwachungsaufnahmen.
Die Deutung von Emotionen am Arbeitsplatz oder in Bildungseinrichtungen (es sei denn, es liegt eine medizinische oder sicherheitsrelevante Ausnahme vor).
Die Kategorisierung von Individuen anhand ihrer biometrischen Daten, um ihre Rasse, politischen Ansichten, Gewerkschaftszugehörigkeit, religiösen oder philosophischen Überzeugungen, ihr Sexualleben oder ihre sexuelle Orientierung abzuleiten (es sei denn, dies basiert auf rechtmäßig erworbenen Datensätzen in einem Kontext wie der autorisierten Strafverfolgung).
Die Durchführung von biometrischer „Echtzeit“-Fernidentifizierung in öffentlich zugänglichen Räumen für Strafverfolgungszwecke, es sei denn, sie ist unbedingt erforderlich für:
eine gezielte Suche nach vermissten Personen oder spezifischen Opfern von Entführung, Menschenhandel oder sexueller Ausbeutung;
die Verhinderung einer spezifischen, erheblichen und unmittelbaren Bedrohung für das Leben oder die körperliche Sicherheit einer Person oder eines terroristischen Anschlags;
die Identifizierung von Verdächtigen bei bestimmten Straftaten.
Für weitere Informationen darüber, wie unsere Dienste genutzt werden können und welche anderen Aktivitäten verboten sind, konsultiere bitte die Nutzungsrichtlinien und andere Bedingungen von OpenAI. Die Europäische Kommission hat auch Leitlinien zu den verbotenen Praktiken veröffentlicht, die dir helfen können, deine eigenen rechtlichen Verpflichtungen zu bewerten und diese Praktiken in deinen Systemen/Produkten zu vermeiden.