Els productes d’AI poden ser més útils quan estan connectats a les teves aplicacions i al web, i hem invertit molt per mantenir les dades connectades segures davant de riscos com ara els atacs d'injecció d'indicacions. Els nostres productes disposen de nombroses proteccions ja disponibles als nivells de model, producte i sistema. Això inclou l’aïllament en sandbox, proteccions contra l’exfiltració de dades basada en URL, la supervisió i l’aplicació de mesures, i controls empresarials com l’accés basat en rols i els registres d’auditoria.
Alhora, algunes capacitats relacionades amb la xarxa introdueixen nous riscos, especialment les injeccions d'indicacions, que encara no estan del tot abordats per les mitigacions de seguretat i protecció del sector. Alguns usuaris poden sentir-se còmodes assumint aquests riscos, i creiem que és important que els usuaris tinguin la capacitat de decidir si els utilitzen i com, especialment quan treballen amb les seves dades privades.
Perquè aquests riscos siguin més fàcils d’entendre, volem comunicar aquest risc mitjançant una etiqueta «Risc elevat», una terminologia i una icona coherents (el signe d’exclamació dins d’un escut), d’una manera que tingui sentit per a cada funció i producte. Aquest etiquetatge proporciona als usuaris visibilitat i control addicionals, a més de les proteccions existents.
Nota: Les funcions etiquetades com a «Risc elevat» s’ofereixen de manera opcional i amb accés anticipat, fora de les declaracions i garanties estàndard que oferim per als nostres serveis disponibles de manera general. Els usuaris només haurien d’activar aquestes funcions si entenen els riscos addicionals i s’hi senten còmodes.
Què vol dir "Risc elevat"?
Quan una funcionalitat porta l'etiqueta "Risc elevat", vol dir que utilitzar-la comporta alguns riscos que les mesures de protecció i seguretat del sector encara no mitiguen del tot. Sempre que vegis aquesta etiqueta, normalment trobaràs orientacions sobre els riscos que comporta utilitzar la funcionalitat i els aspectes que cal tenir en compte, sovint mitjançant un enllaç "Més informació".
Per exemple, a Codex, el nostre assistent de programació, els desenvolupadors poden concedir a Codex accés a la xarxa perquè pugui fer accions al web, com ara consultar documentació. Aquesta funcionalitat també comporta un risc elevat d'atacs d'injecció d'indicacions. Per tant, la pantalla de configuració corresponent inclou l'etiqueta "Risc elevat" i una explicació clara de què canvia, quins riscos poden sorgir i quan és adequat concedir aquest accés.
El risc elevat més habitual de les funcionalitats amb aquesta etiqueta són els atacs d'injecció d'indicacions.
A mesura que millorin les mesures de protecció, podrem retirar l'etiqueta "Risc elevat" quan determinem que els riscos per als usuaris s'han mitigat raonablement.