OpenAI setzt sich dafür ein, Modelle zu entwickeln, die die geltenden Anforderungen der EU-KI-Verordnung erfüllen. Außerdem helfen wir Kund:innen dabei, auf Informationen zuzugreifen, die sie möglicherweise benötigen, um ihre eigenen Compliance-Anforderungen zu erfüllen. Wir werden diese Seite regelmäßig mit hilfreichen Informationen und Ressourcen aktualisieren.
Dieser Artikel dient ausschließlich der allgemeinen Information und stellt keine Rechtsberatung dar. Kund:innen, Entwickler:innen und Nutzer:innen sind selbst dafür verantwortlich, die für sie geltenden rechtlichen Verpflichtungen zu prüfen und einzuhalten.
OpenAIs Ansatz zur EU-KI-Verordnung
Weitere Informationen zum Ansatz von OpenAI für eine verantwortungsvolle KI-Governance, einschließlich unserer Unterstützung für die Verhaltenskodizes zur EU-KI-Verordnung, findest du in unserem Blogbeitrag Verantwortungsvolle KI in Europa voranbringen.
OpenAI hat außerdem sein Frontier Governance Framework veröffentlicht. Darin erläutern wir, wie unsere Sicherheitsmaßnahmen und -praktiken mit neuen gesetzlichen Anforderungen, einschließlich des Verhaltenskodex der EU-KI-Verordnung für KI mit allgemeinem Verwendungszweck, im Einklang stehen. Das Frontier Governance Framework baut auf unserem Preparedness Framework auf, in dem beschrieben wird, wie wir schwerwiegende Risiken fortschrittlicher KI-Systeme bewerten und handhaben.
Weitere Informationen zu unserem Sicherheitsansatz findest du unter Sicherheitsansatz und im Hub für Bereitstellungssicherheit. Dort veröffentlichen wir Systemkarten, Informationen zu Sicherheitsbewertungen und weitere technische Updates.
Nach der EU-KI-Verordnung verbotene Praktiken
Artikel 5 der EU-KI-Verordnung verbietet bestimmte KI-Anwendungen, die ein inakzeptables Risiko darstellen. OpenAI verfügt über technische Schutzmaßnahmen. Außerdem erwarten wir von Kund:innen, Entwickler:innen und Nutzer:innen, dass sie die geltenden Gesetze einhalten und insbesondere dort, wo die EU-KI-Verordnung gilt, keine verbotenen KI-Praktiken anwenden.
Du darfst OpenAI-Dienste nicht für Praktiken nutzen, die nach der EU-KI-Verordnung verboten sind. Dazu gehören unter anderem:
Der Einsatz unterschwelliger, manipulativer oder täuschender Techniken, die das Verhalten einer Person wesentlich beeinflussen und dabei voraussichtlich Schaden verursachen.
Die Ausnutzung einer Schwachstelle einer Person oder Gruppe, einschließlich altersbedingter, behinderungsbedingter sowie sozialer oder wirtschaftlicher Benachteiligungen, auf eine Weise, die voraussichtlich erheblichen Schaden verursacht.
Die soziale Bewertung von Personen oder Gruppen, wenn dies zu einer ungerechtfertigten, unverhältnismäßigen oder sachlich nicht zusammenhängenden Benachteiligung führt.
Die Bewertung des Risikos, dass eine Person eine Straftat begehen könnte, ausschließlich auf Grundlage des Profils der Person oder Persönlichkeitsmerkmalen.
Die Erstellung oder Erweiterung von Gesichtserkennungsdatenbanken durch ungezieltes Auslesen von Gesichtsaufnahmen aus dem Internet oder von Videoüberwachungsaufnahmen.
Das Ableiten von Emotionen einer Person am Arbeitsplatz oder in Bildungseinrichtungen, sofern keine Ausnahme aus medizinischen oder sicherheitstechnischen Gründen gilt.
Die Verwendung biometrischer Daten zur Kategorisierung von Personen, um Rückschlüsse auf sensible Merkmale wie ethnische Herkunft, politische Meinungen, Gewerkschaftszugehörigkeit, Religion, Sexualleben oder sexuelle Orientierung zu ziehen, außer in den gesetzlich vorgesehenen Ausnahmefällen.
Der Einsatz biometrischer Echtzeit-Fernidentifizierungssysteme in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken, außer in den eng begrenzten gesetzlich zulässigen Ausnahmefällen.
Weitere Informationen zur zulässigen Nutzung von OpenAI-Diensten findest du in unseren Nutzungsrichtlinien und unseren Nutzungsbedingungen und Richtlinien. Die Europäische Kommission hat außerdem Leitlinien zu verbotenen Praktiken veröffentlicht, die dir dabei helfen können, deine eigenen Verpflichtungen zu bewerten.
Transparenz und Zusammenfassungen der Trainingsdaten
Gemäß unseren Verpflichtungen nach Artikel 53 Absatz 1 Buchstabe d der EU-KI-Verordnung veröffentlicht OpenAI Zusammenfassungen der Inhalte, die zum Trainieren unserer KI-Modelle mit allgemeinem Verwendungszweck verwendet wurden:
Herkunftsnachweise und KI-generierte Inhalte
OpenAI arbeitet daran, Menschen besser erkennen zu lassen, wann Inhalte möglicherweise mit einem OpenAI-Modell erstellt oder bearbeitet wurden. Wir verfolgen einen mehrschichtigen Ansatz für Herkunftsnachweise, einschließlich Content Credentials (C2PA) und unsichtbarer Wasserzeichen.
Diese Signale sollen zusätzliche Informationen dazu liefern, woher Inhalte stammen und ob sie von einem OpenAI-Modell stammen. Keine einzelne Methode zur Herkunftsbestimmung oder Erkennung ist perfekt, und entsprechende Signale können mitunter entfernt werden oder Bearbeitungen bzw. Änderungen durch Plattformen nicht überstehen. Deshalb setzt OpenAI auf einen mehrschichtigen Ansatz, der Standards, Wasserzeichen und Verifizierungstools kombiniert.
Wie OpenAI Kund:innen bei der Einhaltung ihrer Verpflichtungen im Zusammenhang mit Herkunftsnachweisen unterstützt
Bild- und Audioausgaben enthalten bereits Herkunftssignale wie C2PA-Metadaten oder SynthID-Wasserzeichen, die sich ohne zusätzlichen Aufwand für Kunden weitergeben lassen. Kunden können das Webportal openai.com/verify oder die Content Provenance API nutzen, um zu überprüfen, ob ein Herkunftssignal von OpenAI in Bild- oder Audioausgaben vorhanden ist.
Kunden der OpenAI API können Wasserzeichen für Textausgaben für ein bestimmtes Projekt über Einstellungen aktivieren oder für ihre gesamte Organisation über Organisationseinstellungen. Im Einklang mit unseren Verpflichtungen aus dem Verhaltenskodex zur Transparenz KI-generierter Inhalte können Organisationen mit einem qualifizierenden Anwendungsfall hier Zugriff auf den Textdetektor beantragen.
Weitere Informationen zu unseren Herkunftssignalen findest du in unserem Hilfecenter-Artikel.
Kontakt
Bitte kontaktiere uns über unser Meldeformular zur EU-KI-Verordnung, wenn es um Folgendes geht:
EU-Kundensupport im Zusammenhang mit der EU-KI-Verordnung, einschließlich der Anforderung relevanter Modelldokumentation gemäß EU-KI-Verordnung
Beschwerden im Zusammenhang mit OpenAIs Einhaltung des Urheberrechtskapitels des Verhaltenskodex für allgemeine KI-Modelle
Wenn du einen Sicherheitsvorfall melden möchtest, teile uns dies bitte umgehend mit, indem du einen verschlüsselten Bericht einreichst, wie in OpenAIs Richtlinie zur koordinierten Offenlegung von Schwachstellen beschrieben.
Wir bestätigen den Eingang deiner Meldung, prüfen sie und berücksichtigen dein Feedback bei der Weiterentwicklung unserer Prozesse.