OpenAI setzt sich dafür ein, Modelle zu entwickeln, die die geltenden Anforderungen der EU-KI-Verordnung erfüllen. Außerdem helfen wir Kund:innen dabei, auf Informationen zuzugreifen, die sie möglicherweise benötigen, um ihre eigenen Compliance-Anforderungen zu erfüllen. Wir werden diese Seite regelmäßig mit hilfreichen Informationen und Ressourcen aktualisieren.
Dieser Artikel dient ausschließlich der allgemeinen Information und stellt keine Rechtsberatung dar. Kund:innen, Entwickler:innen und Nutzer:innen sind selbst dafür verantwortlich, die für sie geltenden rechtlichen Verpflichtungen zu prüfen und einzuhalten.
OpenAIs Ansatz zur EU-KI-Verordnung
Weitere Informationen zu OpenAIs Ansatz für eine verantwortungsvolle KI-Governance, einschließlich unserer Unterstützung für die Verhaltenskodizes der EU-KI-Verordnung, findest du in unserem Blogbeitrag „Verantwortungsvolle KI in Europa voranbringen“ [Link zum aktualisierten Blogbeitrag].
OpenAI hat außerdem sein Frontier Governance Framework veröffentlicht. Darin erläutern wir, wie unsere Sicherheitsmaßnahmen und -praktiken mit neuen gesetzlichen Anforderungen, einschließlich des Verhaltenskodex der EU-KI-Verordnung für KI mit allgemeinem Verwendungszweck, im Einklang stehen. Das Frontier Governance Framework baut auf unserem Preparedness Framework auf, in dem beschrieben wird, wie wir schwerwiegende Risiken fortschrittlicher KI-Systeme bewerten und handhaben.
Weitere Informationen zu unserem Sicherheitsansatz findest du unter Sicherheitsansatz und im Hub für Bereitstellungssicherheit. Dort veröffentlichen wir Systemkarten, Informationen zu Sicherheitsbewertungen und weitere technische Updates.
Nach der EU-KI-Verordnung verbotene Praktiken
Artikel 5 der EU-KI-Verordnung verbietet bestimmte KI-Anwendungen, die ein inakzeptables Risiko darstellen. OpenAI verfügt über technische Schutzmaßnahmen. Außerdem erwarten wir von Kund:innen, Entwickler:innen und Nutzer:innen, dass sie die geltenden Gesetze einhalten und insbesondere dort, wo die EU-KI-Verordnung gilt, keine verbotenen KI-Praktiken anwenden.
Du darfst OpenAI-Dienste nicht für Praktiken nutzen, die nach der EU-KI-Verordnung verboten sind. Dazu gehören unter anderem:
Der Einsatz unterschwelliger, manipulativer oder täuschender Techniken, die das Verhalten einer Person wesentlich beeinflussen und dabei voraussichtlich Schaden verursachen.
Die Ausnutzung einer Schwachstelle einer Person oder Gruppe, einschließlich altersbedingter, behinderungsbedingter sowie sozialer oder wirtschaftlicher Benachteiligungen, auf eine Weise, die voraussichtlich erheblichen Schaden verursacht.
Die soziale Bewertung von Personen oder Gruppen, wenn dies zu einer ungerechtfertigten, unverhältnismäßigen oder sachlich nicht zusammenhängenden Benachteiligung führt.
Die Bewertung des Risikos, dass eine Person eine Straftat begehen könnte, ausschließlich auf Grundlage des Profils der Person oder Persönlichkeitsmerkmalen.
Die Erstellung oder Erweiterung von Gesichtserkennungsdatenbanken durch ungezieltes Auslesen von Gesichtsaufnahmen aus dem Internet oder von Videoüberwachungsaufnahmen.
Das Ableiten von Emotionen einer Person am Arbeitsplatz oder in Bildungseinrichtungen, sofern keine Ausnahme aus medizinischen oder sicherheitstechnischen Gründen gilt.
Die Verwendung biometrischer Daten zur Kategorisierung von Personen, um Rückschlüsse auf sensible Merkmale wie ethnische Herkunft, politische Meinungen, Gewerkschaftszugehörigkeit, Religion, Sexualleben oder sexuelle Orientierung zu ziehen, außer in den gesetzlich vorgesehenen Ausnahmefällen.
Der Einsatz biometrischer Echtzeit-Fernidentifizierungssysteme in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken, außer in den eng begrenzten gesetzlich zulässigen Ausnahmefällen.
Weitere Informationen zur zulässigen Nutzung von OpenAI-Diensten findest du in unseren Nutzungsrichtlinien und unseren Nutzungsbedingungen und Richtlinien. Die Europäische Kommission hat außerdem Leitlinien zu verbotenen Praktiken veröffentlicht, die dir dabei helfen können, deine eigenen Verpflichtungen zu bewerten.
Transparenz und Zusammenfassungen der Trainingsdaten
Gemäß unseren Verpflichtungen nach Artikel 53 Absatz 1 Buchstabe d der EU-KI-Verordnung veröffentlicht OpenAI Zusammenfassungen der Inhalte, die zum Trainieren unserer KI-Modelle mit allgemeinem Verwendungszweck verwendet wurden:
Herkunftsnachweise und KI-generierte Inhalte
OpenAI arbeitet außerdem daran, Menschen besser erkennen zu lassen, wann Inhalte möglicherweise mit KI erstellt oder bearbeitet wurden. Dafür verfolgen wir einen mehrschichtigen Ansatz für Herkunftsnachweise, der unter anderem Content Credentials, C2PA-Konformität, SynthID-Wasserzeichen für Bilder und Audio sowie öffentliche Verifizierungstools umfasst.
Diese Tools sollen zusätzliche Informationen darüber liefern, woher Inhalte stammen und ob sie Herkunftssignale von OpenAI-Systemen enthalten. Keine einzelne Methode zur Herkunftsbestimmung oder Erkennung ist perfekt, und entsprechende Signale können mitunter entfernt werden oder Bearbeitungen bzw. Änderungen durch Plattformen nicht überstehen. Deshalb setzt OpenAI auf einen mehrschichtigen Ansatz, der Standards, Wasserzeichen und Verifizierungstools kombiniert.
Wie OpenAI Kund:innen bei der Einhaltung ihrer Verpflichtungen im Zusammenhang mit Herkunftsnachweisen unterstützt
Unsere Inhalte enthalten bereits Herkunftssignale wie C2PA-Metadaten oder SynthID-Wasserzeichen, die sich ohne zusätzlichen Aufwand für Kund:innen weitergeben lassen.
Zusätzlich zum Webportal openai.com/verify können Kund:innen auch unsere Content Provenance API verwenden, um zu prüfen, ob ein Herkunftssignal vorhanden ist.
Weitere Informationen findest du unter Förderung von Herkunftsnachweisen für Inhalte für ein sichereres und transparenteres KI-Ökosystem sowie in unserem Hilfecenter-Artikel.
Kontakt
Bitte kontaktiere uns über unser Meldeformular zur EU-KI-Verordnung, wenn es um Folgendes geht:
EU-Kundensupport im Zusammenhang mit der EU-KI-Verordnung, einschließlich der Anforderung relevanter Modelldokumentation gemäß EU-KI-Verordnung
Beschwerden im Zusammenhang mit OpenAIs Einhaltung des Urheberrechtskapitels des Verhaltenskodex für allgemeine KI-Modelle
Wenn du einen Sicherheitsvorfall melden möchtest, teile uns dies bitte umgehend mit, indem du einen verschlüsselten Bericht einreichst, wie in OpenAIs Richtlinie zur koordinierten Offenlegung von Schwachstellen beschrieben.
Wir bestätigen den Eingang deiner Meldung, prüfen sie und berücksichtigen dein Feedback bei der Weiterentwicklung unserer Prozesse.