Pangkalahatang-ideya
Maaaring maging available ang Lockdown mode sa mga kwalipikadong personal account, self-serve na ChatGPT Business account, at sinusuportahang pinamamahalaang workspace. Nakadepende ang availability sa iyong account, workspace, kasalukuyang paglulunsad ng produkto, at mga setting ng administrator.
Ang Lockdown mode ay isang opsyonal na advanced na setting ng seguridad na naglilimita sa maraming tool at kakayahan sa mga produkto ng OpenAI na nakakakonekta sa web o mga panlabas na serbisyo. Dinisenyo ito para mabawasan ang panganib ng pag-exfiltrate ng data mula sa mga pag-atake ng prompt injection sa pamamagitan ng paglilimita sa mga papalabas na request sa network, kapalit ng pag-disable o paglilimita sa ilang kapaki-pakinabang na feature.
Hindi para sa lahat ang Lockdown mode. Dinisenyo ito para sa mga tao at organisasyong humahawak ng sensitibong data at nais ng mas mahigpit na proteksiyon laban sa mga panganib ng pag-exfiltrate ng data na nauugnay sa prompt injection.
Availability
Nangangailangan ang Lockdown mode ng naka-sign in na account at available lamang ito kung sinusuportahan para sa iyong plan, workspace, bahagi ng produkto, at configuration ng administrator.
Paano nakakatulong ang Lockdown mode na mabawasan ang panganib ng pag-exfiltrate ng data
Ang prompt injection ay isang mahirap na problema sa pananaliksik. Patuloy naming pinatitibay ang aming maraming antas ng sistema ng seguridad at kaligtasan para protektahan ang mga user laban sa mga ganitong pag-atake.
Nakadagdag ang Lockdown mode sa mga proteksiyon sa antas ng modelo, produkto, at system. Kabilang dito ang sandboxing, mga proteksiyon laban sa pag-exfiltrate ng data sa pamamagitan ng URL, pagsubaybay at pagpapatupad, at mga kontrol para sa enterprise gaya ng role-based access at mga audit log.
Dinisenyo ang Lockdown mode para makatulong na pigilan ang huling yugto ng pag-exfiltrate ng data mula sa pag-atake ng prompt injection sa pamamagitan ng paglilimita sa mga papalabas na request sa network na maaaring maglipat ng sensitibong data sa isang umaatake. Hindi pinipigilan ng Lockdown mode na lumabas ang mga prompt injection sa content na pinoproseso ng ChatGPT. Halimbawa, maaaring lumabas ang isang prompt injection sa naka-cache na web content o sa isang na-upload na file, at maaari pa rin nitong maapektuhan ang gawi o katumpakan ng isang sagot.
Dini-disable o nililimitahan ng Lockdown mode ang mga sumusunod na kakayahan ng mga produkto ng OpenAI:
Live na pag-browse sa web: Limitado sa naka-cache na content ang pag-browse sa web. Maaaring limitado, hindi available, o luma ang mga resulta ng paghahanap.
Suporta sa larawan: Maaaring hindi magpakita ang ChatGPT ng mga larawan sa mga karaniwang sagot o kumuha ng mga larawan mula sa web. Maaari pa ring mag-upload ang mga user ng mga image file, at mananatiling available ang pag-generate ng larawan kung available ito sa ibang pagkakataon.
Malalimang pananaliksik: Naka-disable ang malalimang pananaliksik.
Mode ng agent: Naka-disable ang mode ng agent.
Networking ng canvas: Hindi maaaring pahintulutan ng mga user ang code na ginawa ng canvas na mag-access sa network.
Mga pag-download ng file: Hindi makakapag-download ang ChatGPT ng mga file para sa pagsusuri ng data. Magagamit pa rin ng ChatGPT ang mga file na mano-mano mong na-upload.
Hindi binabago ng Lockdown mode ang memory, mga pag-upload ng file, kakayahang magbahagi ng usapan, o kung maaaring gamitin ang iyong mga usapan para pahusayin ang mga modelo. Marami sa mga setting na ito ang maaaring hiwalay na i-configure ng mga admin ng workspace.
Hindi naaapektuhan ng Lockdown mode ang access sa network sa Codex.
Mga app
Nakadepende sa uri ng iyong account at mga setting ng workspace kung paano gumagana ang mga app at connector sa Lockdown mode.
Para sa mga personal account at self-serve na ChatGPT Business account, bina-block ng Lockdown mode ang live na access sa mga panlabas na serbisyo at mga write action ng connector kapag salungat ang mga pagkilos na iyon sa mga proteksiyon nito sa seguridad. Hindi makakapag-configure ng pag-sync ng app ang mga indibidwal na account. Sa isang kwalipikadong pinamamahalaang workspace, nakadepende rin ang access sa kasalukuyang source na pinamamahalaan ng administrator sa mga pahintulot ng workspace at kasalukuyang patakaran ng Lockdown mode. Hindi available sa Lockdown mode ang ilang konektadong karanasan, kabilang ang Finances sa ChatGPT at mga karanasang gumagamit ng shopping agent.
Para sa mga pinamamahalaang workspace, kinokontrol ng mga setting ng workspace at role-based access control ang mga app, MCP, at connector. Hindi awtomatikong dini-disable ng Lockdown mode ang bawat app sa mga workspace na ito. Dapat i-enable ng mga admin ng workspace ang mga pinagkakatiwalaang app at pagkilos lamang na kailangan ng mga miyembrong gumagamit ng Lockdown mode.
Kapag nagtu-troubleshoot ng pinamamahalaang workspace, sabay na suriin ang tungkulin ng miyembro at mga setting ng app. Maaaring hindi makagamit ang isang miyembro ng app, connector, MCP, o pagkilos kung:
nakatalaga ang miyembro o grupo sa isang tungkulin sa Lockdown mode na naglilimita sa kinakailangang kakayahan
hindi nakatalaga ang app sa miyembro, grupo, o tungkulin
hindi naka-enable ang kinakailangang read o write action
walang access ang miyembro sa pinagbabatayang file, repository, channel, record, o source system
ibinibigay ng isa pang tungkulin ang kinakailangang kakayahan, ngunit nililimitahan pa rin ito ng isang tungkulin sa Lockdown mode. Dapat alisin ng may-ari ng workspace ang miyembro o grupo sa tungkulin sa Lockdown mode para maibalik ang access.
Hindi ino-override ng access sa app sa ChatGPT ang mga pahintulot sa konektadong source system. Para sa higit pang impormasyon tungkol sa pagtatalaga ng mga tungkulin, tingnan ang: RBAC.
Kapag nagko-configure ng mga app para sa mga miyembrong gumagamit ng Lockdown mode, dapat isaalang-alang ng mga admin ang panganib ng pag-exfiltrate ng data sa bawat app at pagkilos.
Mataas na panganib
Hindi inirerekomenda ang mga app at pagkilos na ito para sa mga user na nasa Lockdown mode:
Hindi inirerekomenda ang mga read o write action para sa mga hindi pinagkakatiwalaang app. I-enable lamang ang mga app na pinagkakatiwalaan mo.
Hindi inirerekomenda ang mga write action para sa mga pinagkakatiwalaang app na malawak o hindi tiyak ang visibility. Iwasang i-enable ang mga write action, kahit para sa mga pinagkakatiwalaang app, kung hindi mo makukumpirmang nakatago sa isang mapaminsalang aktor ang side effect.
Katamtamang panganib
Gamitin ang mga ito nang may pag-iingat para sa mga user na nasa Lockdown mode:
Maaaring bawasan ng mga naka-index na source na pinamamahalaan ng administrator ang ilang papalabas na request sa network dahil kinukuha ang content mula sa kasalukuyang index sa halip na sa live na provider call. Maaari pa rin nitong ilantad ang sensitibong impormasyon, at nakadepende ang availability sa Lockdown mode sa workspace, source, at patakaran sa seguridad.
Mas mababa ang panganib ng mga read action para sa mga pinagkakatiwalaang app bilang posibleng destinasyon ng na-exfiltrate na data dahil hindi nagdudulot ang mga ito ng write side effect. Maaari pa rin silang magsilbing source ng sensitibong data na maaaring subukang i-exfiltrate ng isang mapaminsalang aktor.
Mas mataas ang panganib ng mga write action para sa mga pinagkakatiwalaang app na limitado ang visibility kaysa sa mga read action dahil nagdudulot ang mga ito ng mga side effect. I-enable lamang ang mga ito kapag tiwala kang ang anumang side effect ay makikita lamang ng mga taong pinagkakatiwalaan mo at hindi ng isang mapaminsalang aktor.
Maaaring gamitin ng mga kwalipikadong administrator ng Enterprise at Edu ang mga available na record sa Compliance Platform para suriin ang sinusuportahang aktibidad ng app, alinsunod sa configuration at mga pahintulot ng workspace. Para sa mga detalye, tingnan ang: OpenAI Compliance Platform para sa mga Customer ng Enterprise at Edu.
I-on ang Lockdown Mode
Mga personal at self-serve na ChatGPT Business account
Para sa mga kwalipikadong personal account at self-serve na ChatGPT Business account:
Pumunta sa Mga Setting.
Piliin ang Seguridad.
Sa ilalim ng Advanced na seguridad, i-on ang Lockdown mode.
Sa modal ng pagkumpirma, piliin ang I-on.
Hindi maaaring gamitin nang sabay ang Lockdown mode at Developer Mode. Kapag in-on ang Lockdown mode, mao-off ang Developer Mode. Kapag in-on ang Developer Mode sa ibang pagkakataon, mao-off ang Lockdown mode.
Kapag naka-on ang Lockdown mode, maaari mo itong i-off para sa isang chat. Sa web, piliin ang label na LOCKDOWN MODE sa composer, pagkatapos ay piliin ang I-off para sa chat na ito.
Para baguhin ang setting mula sa menu ng chat:
Buksan ang menu ng higit pang opsyon (•••).
Piliin ang Lockdown.
Piliin ang Naka-disable para i-off ito sa chat na ito, o ang Naka-enable para i-on itong muli.
Para buksan ang mga setting ng Seguridad ng iyong account, piliin ang Pamahalaan ang lockdown sa dialog ng composer.
Mga pinamamahalaang workspace
Maaaring gumawa ang mga admin ng workspace ng custom na role at italaga ito bilang role na “Lockdown Mode,” pagkatapos ay italaga rito ang mga miyembro o grupo.
FAQ
Sino ang maaaring mag-on ng Lockdown mode?
Maaaring i-on ng mga user na may kwalipikadong personal account at self-serve na ChatGPT Business account ang Lockdown mode sa Mga Setting > Seguridad kapag available ito sa kanilang account. Maaaring i-enable ng mga admin ng workspace ang Lockdown mode para sa mga miyembro ng pinamamahalaang workspace gamit ang mga role-based access control.
Ino-off ba ng Lockdown Mode ang training?
Hindi. Hindi binabago ng Lockdown Mode kung maaaring gamitin ang iyong mga pag-uusap para pahusayin ang mga modelo. Maaari mo itong pamahalaan nang hiwalay sa mga data control. Patuloy na nakadepende ang mga data control ng workspace sa plan at mga setting ng workspace.
Magagamit ko ba ang pag-generate ng larawan sa Lockdown Mode?
Oo. Nililimitahan ng Lockdown Mode ang suporta sa larawan sa mga regular na tugon ng ChatGPT at mga larawang mula sa web, pero hindi nito ino-off ang pag-generate ng larawan.
Maaari ko bang i-off ang Lockdown mode para sa isang chat?
Oo. Piliin ang label na LOCKDOWN MODE sa web composer, pagkatapos ay piliin ang I-off para sa chat na ito. Maaari mo ring baguhin ang setting mula sa menu ng chat gaya ng inilalarawan sa itaas. Kasalukuyang chat lamang ang binabago ng alinmang opsyon.
Naaapektuhan ba ng Lockdown Mode ang Codex?
Hindi. Hindi naaapektuhan ng Lockdown Mode ang network access sa Codex.
Napipigilan ba ng Lockdown mode ang lahat ng pag-atake ng prompt injection?
Dinisenyo ang Lockdown mode para lubos na mabawasan ang panganib ng pag-exfiltrate ng data batay sa prompt injection sa ChatGPT at mga sinusuportahang produkto ng OpenAI, ngunit hindi nito ginagarantiyang imposibleng mangyari ang pag-exfiltrate ng data. Maaaring manatili ang panganib dahil sa mga naka-enable na app, hindi inaasahang kumbinasyon ng mga kakayahan, o mga bagong tuklas na diskarte.
Hindi rin napipigilan ng Lockdown mode ang lahat ng iba pang epekto ng mga pag-atake ng prompt injection. Halimbawa, maaari pa ring maapektuhan ng mapaminsalang tagubiling nakatago sa isang na-upload na file ang gawi ng ChatGPT at magdulot ng maling sagot.
Malaking panganib ba ang prompt injection?
Ang prompt injection ay isang kilalang panganib sa seguridad kapag nagpoproseso ang isang AI system ng hindi pinagkakatiwalaang content. Maaaring bawasan ng Lockdown mode ang ilang paraan ng pag-exfiltrate ng data, ngunit hindi nito napipigilan ang bawat pag-atake ng prompt injection o naaalis ang lahat ng panganib sa seguridad.
Binabago ba ng Lockdown mode ang nala-log sa Platform ng Mga Log ng API ng Pagsunod?
Hindi binabago ng Lockdown mode lamang kung aling mga record ng Compliance Platform ang available. Nakadepende ang access at retention para sa pagsunod sa kwalipikadong workspace, mga pahintulot ng administrator, at naaangkop na mga setting ng produkto.