AI-produkter kan være mere nyttige, når de er forbundet til dine apps og nettet, og vi har investeret betydeligt i at holde forbundne data sikre mod risici såsom prompt injection-angreb. Vores produkter har adskillige eksisterende beskyttelser på tværs af model-, produkt- og systemniveauer. Dette omfatter sandboxing, beskyttelse mod URL-baseret dataeksfiltration, overvågning og håndhævelse samt virksomhedskontroller som rollebaseret adgang og auditlogs.
Samtidig introducerer visse netværksrelaterede funktionaliteter nye risici, især prompt injections, som endnu ikke er fuldt håndteret af branchens sikkerhedsforanstaltninger. Nogle brugere kan være trygge ved at påtage sig disse risici, og vi mener, det er vigtigt, at brugerne har mulighed for at beslutte, om og hvordan de vil bruge dem, især når de arbejder med deres private data.
For at gøre sådanne risici lettere at forstå sigter vi mod at kommunikere denne risiko ved hjælp af en ensartet mærkat, terminologi og et ikon (udråbstegnet i et skjold) for “Forhøjet risiko” på en måde, der giver mening for hver funktion og hvert produkt. Denne mærkning giver brugerne yderligere indsigt og kontrol oven i de eksisterende beskyttelser.
Bemærk: Funktioner mærket “Forhøjet risiko” tilbydes som valgfri og tidlig adgang uden for de standarderklæringer og garantier, vi giver for vores generelt tilgængelige tjenester. Brugere bør kun slå disse funktioner til, hvis de forstår og er trygge ved de yderligere risici.
Hvad betyder »Forhøjet risiko«?
Når en funktion er mærket med »Forhøjet risiko«, betyder det, at brugen af funktionen medfører visse risici, som branchens sikkerhedsforanstaltninger endnu ikke håndterer fuldt ud. Når du ser denne mærkning, vil du typisk finde vejledning om de risici, som brugen af funktionen medfører, og hvad du skal være opmærksom på, ofte via et link med teksten »Få mere at vide«.
I Codex, vores kodeassistent, kan udviklere f.eks. give Codex netværksadgang, så den kan udføre handlinger på internettet såsom at slå dokumentation op. Denne funktion medfører også en forhøjet risiko for prompt injection-angreb. Den relevante indstillingsside er derfor mærket med »Forhøjet risiko« og indeholder en tydelig forklaring af, hvad der ændres, hvilke risici der kan opstå, og hvornår denne adgang er hensigtsmæssig.
Den mest almindelige forhøjede risiko ved funktioner med denne mærkning er prompt injection-angreb.
Efterhånden som sikkerhedsforanstaltningerne forbedres, kan vi fjerne mærkningen »Forhøjet risiko«, når vi vurderer, at risiciene er reduceret tilstrækkeligt for brugerne.