AI-produkter kan være mer nyttige når de er koblet til appene dine og nettet, og vi har investert tungt i å holde tilkoblede data sikre mot risikoer som promptinjeksjonsangrep. Produktene våre har en rekke eksisterende beskyttelser på modell-, produkt- og systemnivå. Dette inkluderer sandkassekjøring, beskyttelse mot URL-basert dataeksfiltrering, overvåking og håndheving samt virksomhetskontroller som rollebasert tilgang og revisjonslogger.
Samtidig medfører enkelte nettverksrelaterte funksjoner nye risikoer, særlig promptinjeksjoner, som ennå ikke er fullt ut håndtert av bransjens sikkerhetstiltak. Noen brukere kan være komfortable med å påta seg disse risikoene, og vi mener det er viktig at brukerne kan bestemme om og hvordan de vil bruke dem, særlig når de arbeider med private data.
For å gjøre slike risikoer enklere å forstå tar vi sikte på å kommunisere denne risikoen med en konsekvent merking, terminologi og et ikon for «Forhøyet risiko» (utropstegnet i et skjold), på en måte som gir mening for hver funksjon og hvert produkt. Denne merkingen gir brukerne bedre innsyn og kontroll i tillegg til de eksisterende beskyttelsene.
Merk: Funksjoner merket «Forhøyet risiko» tilbys som valgfrie funksjoner med tidlig tilgang, utenfor de standarderklæringene og garantiene vi gir for våre generelt tilgjengelige tjenester. Brukere bør bare slå på disse funksjonene hvis de forstår og er komfortable med de ekstra risikoene.
Hva betyr «forhøyet risiko»?
Når en funksjon er merket med «forhøyet risiko», betyr det at bruk av funksjonen medfører enkelte risikoer som ennå ikke er fullt ut håndtert av bransjens tiltak for trygghet og sikkerhet. Når du ser denne merkingen, finner du vanligvis informasjon om risikoen ved å bruke funksjonen og hva du bør være oppmerksom på, ofte via en «Finn ut mer»-lenke.
I Codex, kodeassistenten vår, kan utviklere for eksempel gi Codex nettverkstilgang, slik at den kan utføre handlinger på nettet, som å slå opp dokumentasjon. Denne funksjonen medfører også forhøyet risiko for promptinjeksjonsangrep. Den aktuelle innstillingssiden er derfor merket med «forhøyet risiko» og forklarer tydelig hva som endres, hvilke risikoer som kan oppstå, og når slik tilgang er hensiktsmessig.
Den vanligste forhøyede risikoen ved funksjoner med slik merking er promptinjeksjonsangrep.
Etter hvert som sikkerhetstiltakene forbedres, kan vi fjerne merkingen «forhøyet risiko» når vi vurderer at risikoene er tilstrekkelig redusert for brukerne.