AI-produkter kan vara mer hjälpsamma när de är anslutna till dina appar och webben, och vi har investerat mycket i att skydda anslutna data från risker som promptinjektionsattacker. Våra produkter har redan många skydd på modell-, produkt- och systemnivå. Detta omfattar sandboxning, skydd mot URL-baserad dataexfiltrering, övervakning och efterlevnad, samt företagskontroller som rollbaserad åtkomst och granskningsloggar.
Samtidigt medför vissa nätverksrelaterade funktioner nya risker, särskilt promptinjektioner, som ännu inte hanteras fullt ut av branschens skydds- och säkerhetsåtgärder. Vissa användare kan vara bekväma med att ta dessa risker, och vi anser att det är viktigt att användare kan bestämma om och hur de vill använda dem, särskilt när de arbetar med sina privata data.
För att göra sådana risker lättare att förstå strävar vi efter att kommunicera dem med en konsekvent märkning, terminologi och ikon för ”Förhöjd risk” (utropstecknet i en sköld), på ett sätt som är meningsfullt för varje funktion och produkt. Den här märkningen ger användare ytterligare insyn och kontroll utöver de befintliga skydden.
Obs! Funktioner märkta med ”Förhöjd risk” erbjuds som valfria funktioner med tidig åtkomst, utanför de standardutfästelser och garantier vi lämnar för våra allmänt tillgängliga tjänster. Användare bör endast aktivera dessa funktioner om de förstår och är bekväma med de ytterligare riskerna.
Vad innebär ”Förhöjd risk”?
När en funktion är märkt med ”Förhöjd risk” innebär det att användningen medför vissa risker som ännu inte hanteras fullt ut av branschens skydds- och säkerhetsåtgärder. När du ser den här märkningen finns det vanligtvis vägledning om vilka risker användningen av funktionen medför och vad du bör tänka på, ofta via länken ”Läs mer”.
I Codex, vår kodassistent, kan utvecklare till exempel ge Codex nätverksåtkomst så att den kan utföra åtgärder på webben, såsom att slå upp dokumentation. Den här funktionen medför också en förhöjd risk för promptinjektionsattacker. Den aktuella inställningssidan har därför märkningen ”Förhöjd risk” samt en tydlig förklaring av vad som förändras, vilka risker som kan uppstå och när sådan åtkomst är lämplig.
Den vanligaste förhöjda risken med funktioner som har en sådan märkning är promptinjektionsattacker.
I takt med att skyddsåtgärderna förbättras kan vi ta bort märkningen ”Förhöjd risk” när vi bedömer att riskerna för användarna har begränsats till en rimlig nivå.