Oversikt
Nedstengningsmodus kan være tilgjengelig for kvalifiserte personlige kontoer, selvbetjente ChatGPT Business-kontoer og støttede administrerte arbeidsområder. Tilgjengeligheten avhenger av kontoen, arbeidsområdet, den gjeldende produktutrullingen og administratorinnstillingene.
Nedstengningsmodus er en valgfri, avansert sikkerhetsinnstilling som begrenser mange verktøy og funksjoner i OpenAI-produkter som kan koble seg til nettet eller eksterne tjenester. Den er utformet for å redusere risikoen for datauthenting gjennom promptinjeksjonsangrep ved å begrense utgående nettverksforespørsler. Det innebærer at enkelte nyttige funksjoner deaktiveres eller begrenses.
Nedstengningsmodus er ikke beregnet på alle. Den er utviklet for personer og organisasjoner som håndterer sensitive data og ønsker strengere beskyttelse mot risikoen for datauthenting knyttet til promptinjeksjon.
Tilgjengelighet
Nedstengningsmodus krever en innlogget konto og er bare tilgjengelig der funksjonen støttes for abonnementet, arbeidsområdet, produktgrensesnittet og administratorkonfigurasjonen.
Slik bidrar nedstengningsmodus til å redusere risikoen for datauthenting
Promptinjeksjon er et krevende forskningsproblem. Vi arbeider kontinuerlig med å styrke de flerlags sikkerhetssystemene våre for å beskytte brukerne mot slike angrep.
Nedstengningsmodus bygger videre på beskyttelse på modell-, produkt- og systemnivå. Dette omfatter bruk av sandkasser, beskyttelse mot URL-basert datauthenting, overvåking og håndheving samt virksomhetskontroller som rollebasert tilgang og revisjonslogger.
Nedstengningsmodus er utviklet for å bidra til å hindre det siste trinnet i datauthenting fra et promptinjeksjonsangrep ved å begrense utgående nettverksforespørsler som kan overføre sensitive data til en angriper. Nedstengningsmodus hindrer ikke at promptinjeksjoner forekommer i innholdet ChatGPT behandler. En promptinjeksjon kan for eksempel finnes i bufret nettinnhold eller en opplastet fil og fortsatt påvirke hvordan et svar utformes, eller hvor presist det er.
Nedstengningsmodus deaktiverer eller begrenser følgende funksjoner i OpenAI-produkter:
Direkte nettsurfing: Nettsurfing er begrenset til bufret innhold. Søkeresultater kan være begrensede, utilgjengelige eller utdaterte.
Bildestøtte: ChatGPT viser kanskje ikke bilder i vanlige svar og kan kanskje ikke hente bilder fra nettet. Brukere kan fortsatt laste opp bildefiler, og bildegenerering er fortsatt tilgjengelig der funksjonen ellers tilbys.
Dyp forskning: Dyp forskning er deaktivert.
Agentmodus: Agentmodus er deaktivert.
Nettverkstilgang i Canvas: Brukere kan ikke godkjenne at kode generert i Canvas får tilgang til nettverket.
Filnedlasting: ChatGPT kan ikke laste ned filer for dataanalyse. ChatGPT kan fortsatt arbeide med filer du laster opp manuelt.
Nedstengningsmodus endrer ikke minne, filopplasting, muligheten til å dele en samtale eller om samtalene dine kan brukes til å forbedre modeller. Administratorer kan konfigurere mange av disse innstillingene separat for arbeidsområdet.
Nedstengningsmodus påvirker ikke nettverkstilgangen i Codex.
Apper
Hvordan apper og koblinger fungerer i nedstengningsmodus, avhenger av kontotypen og innstillingene for arbeidsområdet.
For personlige kontoer og selvbetjente ChatGPT Business-kontoer blokkerer nedstengningsmodus direktetilgang til eksterne tjenester og skrivehandlinger via koblinger når handlingene er i konflikt med sikkerhetsbeskyttelsen. Individuelle kontoer kan ikke konfigurere appsynkronisering. I et kvalifisert administrert arbeidsområde avhenger tilgangen til en eksisterende administratorkontrollert kilde også av tillatelsene i arbeidsområdet og gjeldende retningslinjer for nedstengningsmodus. Enkelte tilkoblede funksjoner, blant annet Økonomi i ChatGPT og handleagentfunksjoner, er utilgjengelige i nedstengningsmodus.
I administrerte arbeidsområder styres apper, MCP-er og koblinger av innstillingene for arbeidsområdet og rollebasert tilgangskontroll. Nedstengningsmodus deaktiverer ikke automatisk alle apper i disse arbeidsområdene. Administratorer for arbeidsområdet bør bare aktivere pålitelige apper og handlinger som medlemmer som bruker nedstengningsmodus, trenger.
Ved feilsøking i administrerte arbeidsområder bør du kontrollere både medlemmets rolle og appinnstillingene. Et medlem kan kanskje ikke bruke en app, kobling, MCP eller handling hvis:
medlemmet eller gruppen er tilordnet en rolle for nedstengningsmodus som begrenser den nødvendige funksjonen
appen ikke er tilordnet medlemmet, gruppen eller rollen
den nødvendige lese- eller skrivehandlingen ikke er aktivert
medlemmet ikke har tilgang til den underliggende filen, lageret, kanalen, oppføringen eller kildesystemet
en annen rolle gir den nødvendige funksjonen, men en rolle for nedstengningsmodus fortsatt begrenser den. En eier av arbeidsområdet må fjerne medlemmet eller gruppen fra rollen for nedstengningsmodus for å gjenopprette tilgangen.
Apptilgang i ChatGPT overstyrer ikke tillatelsene i det tilkoblede kildesystemet. Du finner mer informasjon om rolletildeling her: RBAC.
Når administratorer konfigurerer apper for medlemmer som bruker nedstengningsmodus, bør de vurdere risikoen for datauthenting for hver app og handling.
Høy risiko
Disse appene og handlingene anbefales ikke for brukere i nedstengningsmodus:
Lese- eller skrivehandlinger for apper som ikke er klarert, anbefales ikke. Aktiver bare apper du stoler på.
Skrivehandlinger for pålitelige apper med bred eller usikker synlighet anbefales ikke. Unngå å aktivere skrivehandlinger, selv for pålitelige apper, hvis du ikke kan bekrefte at virkningen er skjult for en ondsinnet aktør.
Middels risiko
Bruk disse med forsiktighet for brukere i nedstengningsmodus:
Administratorkontrollerte, indekserte kilder kan redusere enkelte utgående nettverksforespørsler fordi innholdet hentes fra en eksisterende indeks i stedet for gjennom et direkte kall til leverandøren. De kan fortsatt eksponere sensitiv informasjon, og tilgjengeligheten i nedstengningsmodus avhenger av arbeidsområdet, kilden og sikkerhetsretningslinjene.
Lesehandlinger for pålitelige apper har lavere risiko som mulig mål for datauthenting fordi de ikke skaper bivirkninger på skrivesiden. De kan likevel være kilder til sensitive data som en ondsinnet aktør kan forsøke å hente ut.
Skrivehandlinger for pålitelige apper med begrenset synlighet innebærer høyere risiko enn lesehandlinger fordi de skaper bivirkninger. Aktiver dem bare når du er sikker på at eventuelle bivirkninger kun er synlige for personer du stoler på, og ikke for en ondsinnet aktør.
Kvalifiserte Enterprise- og Edu-administratorer kan bruke tilgjengelige oppføringer på samsvarsplattformen til å gjennomgå støttet appaktivitet, avhengig av konfigurasjonen og tillatelsene i arbeidsområdet. Du finner mer informasjon her: OpenAI-samsvarsplattform for Enterprise- og Edu-kunder.
Slå på nedstengningsmodus
Personlige kontoer og selvbetjente ChatGPT Business-kontoer
For kvalifiserte personlige kontoer og selvbetjente ChatGPT Business-kontoer:
Gå til Innstillinger.
Velg Sikkerhet.
Slå på Nedstengningsmodus under Avansert sikkerhet.
Velg Slå på i bekreftelsesdialogen.
Nedstengningsmodus og utviklermodus kan ikke brukes samtidig. Når du slår på nedstengningsmodus, slås utviklermodus av. Hvis du senere slår på utviklermodus, slås nedstengningsmodus av.
Når nedstengningsmodus er på, kan du slå den av for én chat. På nettet velger du etiketten NEDSTENGNINGSMODUS i skrivefeltet og deretter Slå av for denne chatten.
Slik endrer du innstillingen fra chatmenyen:
Åpne menyen for flere alternativer (•••).
Velg Nedstengning.
Velg Deaktivert for å slå den av for denne chatten, eller Aktivert for å slå den på igjen.
Du åpner kontoens innstillinger for Sikkerhet ved å velge Administrer nedstengning i dialogboksen i skrivefeltet.
Administrerte arbeidsområder
Administratorer for arbeidsområder kan opprette en egendefinert rolle og angi den som en «Nedstengningsmodus»-rolle, og deretter tilordne medlemmer eller grupper til den.
Vanlige spørsmål
Hvem kan slå på nedstengningsmodus?
Brukere med kvalifiserte personlige kontoer og selvbetjente ChatGPT Business-kontoer kan slå på nedstengningsmodus under Innstillinger > Sikkerhet når funksjonen er tilgjengelig for kontoen. Administratorer kan aktivere nedstengningsmodus for medlemmer av administrerte arbeidsområder ved hjelp av rollebasert tilgangskontroll.
Slår nedstengningsmodus av trening?
Nei. Nedstengningsmodus endrer ikke om samtalene dine kan brukes til å forbedre modeller. Du kan administrere dette separat i datakontroller. Datakontroller for arbeidsområder avhenger fortsatt av planen og innstillingene for arbeidsområdet.
Kan jeg bruke bildegenerering i nedstengningsmodus?
Ja. Nedstengningsmodus begrenser bildestøtte i vanlige ChatGPT-svar og bilder hentet fra nettet, men slår ikke av bildegenerering.
Kan jeg slå av nedstengningsmodus for én chat?
Ja. Velg etiketten NEDSTENGNINGSMODUS i skrivefeltet på nettet, og velg deretter Slå av for denne chatten. Du kan også endre innstillingen fra chatmenyen som beskrevet ovenfor. Begge alternativene endrer bare den gjeldende chatten.
Påvirker nedstengningsmodus Codex?
Nei. Nedstengningsmodus påvirker ikke nettverkstilgang i Codex.
Forhindrer nedstengningsmodus alle promptinjeksjonsangrep?
Nedstengningsmodus er utviklet for å redusere risikoen for datauthenting basert på promptinjeksjon vesentlig i ChatGPT og støttede OpenAI-produkter, men den garanterer ikke at datauthenting er umulig. Det kan fortsatt finnes risiko gjennom aktiverte apper, uforutsette kombinasjoner av funksjoner eller nyoppdagede teknikker.
Nedstengningsmodus forhindrer heller ikke alle andre konsekvenser av promptinjeksjonsangrep. En ondsinnet instruksjon som er skjult i en opplastet fil, kan for eksempel fortsatt påvirke ChatGPTs atferd og føre til et feil svar.
Er promptinjeksjon en stor risiko?
Promptinjeksjon er en kjent sikkerhetsrisiko når et KI-system behandler innhold som ikke er klarert. Nedstengningsmodus kan redusere enkelte veier for datauthenting, men forhindrer ikke alle promptinjeksjonsangrep eller fjerner all sikkerhetsrisiko.
Endrer nedstengningsmodus hva som logges på loggplattformen for Samsvars-API-et?
Nedstengningsmodus endrer ikke i seg selv hvilke oppføringer som er tilgjengelige på samsvarsplattformen. Tilgang til og oppbevaring av samsvarsdata avhenger av det kvalifiserte arbeidsområdet, administratortillatelser og relevante produktinnstillinger.