KI-Produkte können noch hilfreicher sein, wenn sie mit deinen Apps und dem Internet verbunden sind. Wir haben stark investiert, um verbundene Daten vor Risiken wie Prompt-Injection-Angriffen zu schützen. Unsere Produkte verfügen auf Modell-, Produkt- und Systemebene über zahlreiche bestehende Schutzmaßnahmen. Dies umfasst Sandboxing, Schutzmaßnahmen gegen URL-basierte Datenexfiltration, Überwachung und Durchsetzung sowie Unternehmenssteuerungen wie rollenbasierte Zugriffskontrolle und Audit-Logs.
Gleichzeitig bergen einige netzwerkbezogene Fähigkeiten neue Risiken, insbesondere Prompt Injection. Diese werden von den Sicherheits- und Schutzmaßnahmen der Branche noch nicht vollständig abgedeckt. Einige Nutzer könnten bereit sein, diese Risiken einzugehen, und wir halten es für wichtig, dass sie die Möglichkeit haben, zu entscheiden, ob und wie sie diese nutzen, insbesondere bei der Arbeit mit ihren persönlichen Daten.
Um solche Risiken verständlicher zu machen, möchten wir sie mithilfe einer einheitlichen Kennzeichnung („Erhöhtes Risiko“), einer einheitlichen Terminologie und eines einheitlichen Symbols (das Ausrufezeichen in einem Schild) kommunizieren – auf eine Weise, die für jede Funktion und jedes Produkt sinnvoll ist. Neben den bestehenden Schutzmaßnahmen bietet diese Kennzeichnung mehr Transparenz und Kontrolle.
Hinweis: Funktionen, die mit „Erhöhtes Risiko“ gekennzeichnet sind, werden im Rahmen eines frühen Zugangs optional angeboten. Für diese Funktionen gelten die standardmäßigen Zusicherungen und Garantien für unsere allgemein verfügbaren Dienste nicht. Nutzer sollten diese Funktionen nur dann aktivieren, wenn sie die zusätzlichen Risiken verstehen und damit einverstanden sind.
Was bedeutet „Erhöhtes Risiko“?
Wenn eine Fähigkeit mit „Erhöhtes Risiko“ gekennzeichnet ist, bedeutet dies, dass die Nutzung der Funktion einige Risiken birgt, die von den Sicherheits- und Schutzmaßnahmen der Branche noch nicht vollständig abgedeckt werden. Wenn du diese Kennzeichnung siehst, findest du in der Regel dort Hinweise zu den mit der Nutzung der Funktion verbundenen Risiken und dazu, worauf du achten solltest. Häufig gelangst du über einen Link „Weitere Informationen“ zu diesen Hinweisen.
Zum Beispiel können Entwickler in Codex, unserem Coding-Assistenten, Codex Netzwerkzugriff gewähren, damit er im Web Aktionen wie das Nachschlagen von Dokumentationen ausführen kann. Diese Fähigkeit birgt zudem ein erhöhtes Risiko für Prompt-Injection-Angriffe. Der relevante Einstellungsbildschirm enthält daher die Kennzeichnung „Erhöhtes Risiko“ sowie eine klare Erklärung, was sich ändert, welche Risiken möglicherweise eingeführt werden und wann dieser Zugriff angemessen ist.
Das häufigste erhöhte Risiko solcher gekennzeichneter Funktionen sind Prompt-Injection-Angriffe.
Während sich die Schutzmaßnahmen verbessern, können wir die Kennzeichnung „Erhöhtes Risiko“ entfernen, sobald wir feststellen, dass die Risiken für die Nutzer angemessen gemindert wurden.