Ang mga foundation model ng OpenAI, kabilang ang mga modelong nagpapatakbo sa ChatGPT, ay binubuo gamit ang tatlong pangunahing pinagmumulan ng impormasyon: (1) impormasyong pampublikong available sa internet, (2) impormasyong ina-access namin sa pakikipagtulungan sa mga third party, at (3) impormasyong ibinibigay o ginagawa ng aming mga user, human trainer, at researcher.
Ang pagbuo ng mga foundation model gaya ng ginagamit sa ChatGPT ay may ilang yugto, kabilang ang paghahanda ng training data, pre-training, at post-training, pati na ang patuloy na pagsusuri at pagpapahusay pagkatapos itong i-deploy. Maaaring gamitin ang iba’t ibang uri ng impormasyon sa mga yugtong ito para sa iba’t ibang layunin, kabilang ang pagpapahusay ng performance, pagiging maaasahan, at kaligtasan ng modelo.
Nagbibigay ang artikulong ito ng pangkalahatang-ideya ng impormasyong ginagamit namin upang makatulong sa pagbuo ng mga modelong ito, kung paano namin kinokolekta at ginagamit ang impormasyong iyon alinsunod sa mga batas sa privacy, at ang mga safeguard na inilalapat namin sa buong proseso ng pagsasanay. Para maunawaan kung paano namin kinokolekta at ginagamit ang impormasyon mula sa mga user ng aming mga serbisyo, kabilang ang kung paano mag-opt out sa paggamit ng mga pag-uusap sa ChatGPT para makatulong na mapahusay ang aming mga modelo, pakitingnan ang aming Patakaran sa Privacy at artikulong ito sa help center.
Ano ang ChatGPT at paano ito gumagana?
Ang ChatGPT ay serbisyong batay sa artificial intelligence na maa-access mo sa internet o app. Magagamit mo ang ChatGPT para sa maraming gawain, kabilang ang pag-aayos at pagbubuod ng impormasyon, pagtulong sa mga pagsasalin, pagsuporta sa coding, pananaliksik at pagsusuri, pagkumpleto ng mga gawaing maraming hakbang sa iba’t ibang tool, pagsusuri o pagbuo ng mga larawan, pagbigay-inspirasyon sa pagkamalikhain at mga ideya, at iba pang pang-araw-araw na aktibidad. Idinisenyo ang ChatGPT upang umunawa at tumugon sa mga tanong at tagubilin ng user sa pamamagitan ng pagkatuto ng mga pattern mula sa malaking dami ng impormasyon, kabilang ang text, larawan, audio, at video.
Sa panahon ng pagsasanay, sinusuri ng modelo ang mga ugnayan sa loob ng data na ito—gaya ng kung paano karaniwang lumilitaw nang magkakasama ang mga salita sa konteksto—at ginagamit ang pag-unawang iyon upang hulaan ang susunod na pinakamalamang na salita kapag gumagawa ng tugon, paisa-isang salita. Maaaring gawing mas maliliit na unit ang text, na kung minsan ay tinatawag na “mga token,” na maaaring kumatawan sa buong salita, bahagi ng salita, o bantas. Ang mga token ang mga pangunahing bahagi ng text na pinoproseso ng modelo. Katulad nito, ang mga modelong gumagawa ng iba pang anyo ng content, gaya ng mga larawan, ay natututo ng mga pattern kung paano nauugnay ang mga pixel sa isa’t isa at sa mga kaugnay na caption sa training data.
Halimbawa, sa proseso ng pagkatuto ng modelo (kilala bilang “pagsasanay”), maaaring ipagawa sa modelo ang pagkumpleto ng pangungusap na gaya ng: “Sa halip na kumaliwa, siya ay ___.” Sa unang bahagi ng pagsasanay, halos random ang mga tugon nito. Gayunpaman, habang pinoproseso at natututo ang modelo mula sa malaking dami ng text, mas gumagaling ito sa pagkilala ng mga pattern at paghula ng pinakamalamang na susunod na salita. Inuulit ang prosesong ito sa milyun-milyong pangungusap upang pahusayin ang pag-unawa nito at dagdagan ang katumpakan nito.
Dahil maraming posibleng makatwirang paraan para kumpletuhin ang isang pangungusap—gaya ng “Sa halip na kumaliwa, siya ay kumanan,” “umikot,” o “bumalik”—may likas na elemento ng pagiging random sa kung paano tumutugon ang modelo. Dahil dito, maaaring magbigay ng magkakaibang sagot ang parehong tanong sa magkakaibang query.
Ang mga machine learning model ay binubuo ng malalaking hanay ng mga numero, na kilala bilang “weights” o “parameters,” kasama ng code na nagpapakahulugan at gumagamit sa mga numerong iyon. Hindi iniimbak o pinananatili ng mga modelong ito ang mga kopya ng data na ginamit sa pagsasanay sa kanila. Sa halip, habang natututo ang isang modelo, bahagyang ina-adjust ang mga value ng mga parameter nito upang ipakita ang mga pattern na natukoy nito. Sa naunang halimbawa, umunlad ang modelo mula sa paghula ng mga random na salita tungo sa mas tumpak na mga hula—hindi sa pamamagitan ng pag-iimbak ng mga pangungusap sa pagsasanay, kundi sa pag-update ng mga internal parameter nito. Hindi pinananatili ng modelo ang mga kopya ng mga pangungusap, larawan, o audio na pinoproseso nito habang nagsasanay. Hindi “nangongopya at nagpe-paste” ang ChatGPT mula sa training data nito—katulad ng isang guro na, matapos ang malawakang pag-aaral, ay kayang magpaliwanag ng mga konsepto sa pamamagitan ng pag-unawa sa ugnayan ng mga ideya nang hindi minememorya o inuulit nang eksakto ang mga orihinal na materyal. Kapag gumagawa ng tugon sa kahilingan ng user, ginagamit ng modelo ang mga natutuhang weight na ito upang hulaan at lumikha ng bagong content.
Anong uri ng impormasyon ang ginagamit upang turuan ang ChatGPT?
Para sa pampublikong available na content sa internet, gumagamit lang kami ng impormasyong malaya at hayagang naa-access sa internet. Maaaring kabilang dito ang mga pampublikong available na webpage, pampublikong forum, pampublikong blog, pampublikong post, at iba pang pampublikong available na online content. Halimbawa, kung nakikilahok ka sa isang pampublikong available na online discussion forum o nagpo-post ng pampublikong blog o iba pang post, maaari naming gamitin ang pampublikong naa-access na content na iyon para sa mga layunin ng pagsasanay ng modelo. Gayunpaman, nagsasagawa kami ng mga hakbang upang mabawasan ang pagproseso ng personal na impormasyon sa aming proseso ng pagsasanay. Kapag nangongolekta ng pampublikong available na content sa internet, hindi namin sinasadyang mangalap ng data mula sa mga source na kilalang nasa likod ng mga paywall o mula sa dark web. Bukod pa rito, naglalapat kami ng mga filter upang alisin ang materyal na ayaw naming matutuhan ng aming mga modelo, gaya ng hate speech, adult content, mga site na nagtitipon ng personal na impormasyon, at spam. Pagkatapos, ginagamit ang natitirang impormasyon upang sanayin ang aming mga modelo.
Maaaring pamahalaan ng mga may-ari ng website kung maa-access ang pampublikong available na content mula sa kanilang mga site para magamit sa pagsasanay sa pamamagitan ng mga karaniwang web control gaya ng robots.txt upang hindi payagan ang GPTBot, na maaaring mag-crawl ng pampublikong available na content para makatulong sa pagsasanay ng aming mga modelo. Nagbibigay kami ng gabay upang matulungan ang mga may-ari ng website na pamahalaan kung paano nakikipag-ugnayan ang kanilang mga site at content sa aming mga AI system.
Gumagamit din kami ng impormasyon mula sa mga third-party partner upang makatulong na sanayin at pahusayin ang aming mga modelo. Maaaring kabilang dito ang impormasyon sa mga dataset na ina-access namin sa pamamagitan ng mga kasunduan sa mga third party, pati na ang impormasyong ibinibigay o ginagawa ng mga human trainer at researcher kung pinahihintulutan ng aming mga patakaran at kasunduan. Nakakatulong ito na mapahusay ang kalidad, kaligtasan, at performance ng aming mga modelo. Maaaring kabilang sa mga source na ito ang text, larawan, audio, video, o iba pang uri ng data, depende sa dataset.
Mas lalo rin kaming gumagamit ng synthetic data sa ilang proseso ng pagsasanay. Halimbawa, maaari kaming gumamit ng impormasyon at ng aming mga modelo upang bumuo ng mga synthetic prompt, multilingual na halimbawa, o iba pang materyal sa pagsasanay. Makakatulong ang synthetic data na mapahusay ang performance ng modelo, kabilang ang pagdagdag sa training data sa mga bahaging kakaunti o hindi balanse ang data, at maaari rin nitong suportahan ang mga paraang nagpapahusay ng privacy sa pagbuo ng modelo.
Ginagamit ba ang personal na impormasyon upang turuan ang ChatGPT?
Malaking bahagi ng online content ang may kinalaman sa impormasyon tungkol sa mga tao, kaya maaaring hindi sinasadyang maisama sa aming training data ang personal na impormasyon. Gayunpaman, nagsasagawa kami ng mga hakbang upang mabawasan ang pagproseso ng personal na impormasyon sa aming proseso ng pagsasanay.
Ginagamit namin ang training data upang bumuo ng mga kakayahan ng modelo—gaya ng paghula, pangangatwiran, at paglutas ng problema—hindi upang gumawa ng mga profile ng mga indibidwal, makipag-ugnayan sa kanila, o i-personalize ang mga ad para sa kanila.
Sa ilang kaso, maaaring matuto ang mga modelo mula sa personal na impormasyon upang maunawaan kung paano gumagana sa wika ang mga elemento gaya ng mga pangalan at address, o upang makilala ang mga public figure at kilalang entity. Nakakatulong ito sa modelo na makabuo ng mas tumpak at angkop sa kontekstong mga tugon.
Paano pinoprotektahan ang personal na impormasyon habang nagsasanay?
Aktibo kaming nagsasagawa ng mga hakbang upang limitahan ang pagproseso ng personal na impormasyon habang nagsasanay. Halimbawa, ibinubukod namin ang mga kilalang source na nagtitipon ng malaking dami ng personal na data, naglalapat ng filtering upang mabawasan ang personal na impormasyon sa proseso ng pagsasanay, at nagsasagawa ng mga hakbang upang tukuyin at alisin ang duplicate na content para mabawasan ang panganib na maulit ang training data. Bukod dito, sinasanay namin ang aming mga modelo na iwasang tumugon sa mga kahilingan para sa pribado o sensitibong impormasyon tungkol sa mga indibidwal.
Gaano katagal namin pinananatili ang impormasyon
Pinananatili namin ang impormasyon sa training data hangga’t makatwirang kinakailangan lamang para sa mga layuning inilalarawan sa artikulong ito at sa aming Patakaran sa Privacy, kabilang ang pagbuo at pagpapahusay ng aming mga modelo at para sa mga kaugnay na layunin ng siyentipikong pananaliksik. Ang pagpapanatili ay sumasailalim sa pana-panahong pagsusuri upang matiyak na kailangan pa rin ito, at nag-iiba depende sa uri ng impormasyon at kung paano ito ginagamit. Sa pagtukoy ng panahon ng pagpapanatili, isinasaalang-alang namin ang mga salik gaya ng layunin namin sa pagproseso ng impormasyon, dami, katangian at pagiging sensitibo ng impormasyon, potensyal na panganib ng pinsala mula sa hindi awtorisadong paggamit o pagsisiwalat, at anumang legal na obligasyong saklaw namin.
Paano sumusunod ang pagbuo ng ChatGPT sa mga batas sa privacy?
Ginagamit namin ang impormasyon sa pagsasanay nang ayon sa batas. Pinapagana ng aming mga foundation model ang malawak na hanay ng kapaki-pakinabang na mga application—kabilang ang mga accessibility tool, customer support, software development, personalized na edukasyon, at siyentipikong pananaliksik. Nakadepende ang mga kakayahang ito sa malakihang pagsasanay na data, kabilang ang pampublikong available na impormasyon at impormasyon mula sa mga third-party partner. Naglalapat kami ng mga safeguard sa buong proseso ng pagsasanay, kabilang ang mga hakbang na idinisenyo upang mabawasan ang pagproseso ng personal na impormasyon sa proseso ng pagsasanay at mabawasan ang mga panganib, gaya ng inilalarawan sa artikulong ito. Ibinabatay namin ang pangongolekta at paggamit ng personal na impormasyong kasama sa impormasyon sa pagsasanay sa mga lehitimong interes sa ilalim ng mga batas sa privacy gaya ng GDPR, kabilang ang pagsasanay at pagpapahusay ng aming mga modelo para sa mga user at mas malawak na lipunan, alinsunod sa aming misyon na tiyaking makikinabang ang lahat sa artificial general intelligence, gaya ng mas detalyadong ipinaliwanag sa aming Patakaran sa Privacy. Nakumpleto namin ang isang data protection impact assessment upang makatulong na matiyak na kinokolekta at ginagamit namin ang impormasyong ito nang legal at responsable.
Kung kailan maaaring ibahagi o ilipat ang impormasyon
Hindi namin “ibinebenta” ang personal na impormasyon, at isiniisiwalat lamang namin ang personal na impormasyon sa training data sa limitadong mga sitwasyong inilalarawan sa aming Patakaran sa Privacy. Halimbawa, maaari kaming magbahagi ng impormasyon sa mga affiliate, vendor, at service provider na sumusuporta sa pagbuo, pagsubok, at pagpapahusay ng aming mga modelo. Maaari rin kaming magsiwalat ng impormasyon kung may mabuting paniniwala kami na kailangan ang naturang aksyon upang sumunod sa isang legal na obligasyon o upang protektahan ang aming mga karapatan, kaligtasan, at seguridad at ang sa aming mga user, empleyado, o publiko, gaya ng inilalarawan sa aming Patakaran sa Privacy.
Dahil pandaigdigan ang aming imprastraktura, maaaring iproseso ang personal na impormasyon sa training data sa mga bansang nasa labas ng EEA, Switzerland, o UK (kabilang ang United States). Kapag nangyari ito, naglalapat kami ng naaangkop na mga safeguard, gaya ng mga adequacy decision o standard contractual clause, tulad ng inilalarawan sa aming Patakaran sa Privacy.
Ang iyong mga karapatan at kung paano gamitin ang mga ito
Tumutugon kami sa mga kahilingan sa pagtutol at mga katulad na kahilingan kaugnay ng mga karapatan. Bilang resulta ng pagkatuto ng wika, maaaring minsang magsama ang mga tugon ng ChatGPT ng personal na impormasyon tungkol sa mga indibidwal na ang personal na impormasyon ay lumilitaw nang maraming beses sa pampublikong internet (halimbawa, mga public figure). Maaaring tumutol ang mga indibidwal sa ilang hurisdiksyon sa pagproseso ng kanilang personal na impormasyon ng aming mga modelo o gumawa ng iba pang kahilingan kaugnay ng mga karapatan ng data subject sa pamamagitan ng aming Portal ng Privacy. Magagamit mo rin ang mga karapatang ito sa pamamagitan ng pakikipag-ugnayan sa privacy@openai.com.
Upang matulungan kaming suriin at tugunan ang iyong kahilingan, magbigay ng sapat na impormasyon upang maunawaan namin kung anong personal na impormasyon ang tinutukoy ng iyong kahilingan, gaya ng iyong pangalan, mga nauugnay na URL, partikular na halimbawa ng mga output ng modelo, o iba pang detalyeng makakatulong na matukoy ang isyu. Sa ilang kaso, maaari naming hilingin sa iyo na i-verify ang iyong pagkakakilanlan o kumpirmahing may kaugnayan sa iyo ang impormasyon bago kami makakilos. Makikita ang higit pang impormasyon tungkol sa kung paano isumite ang mga kahilingang ito, kabilang ang pinakamahuhusay na kagawian at kung paano sinusuri ang mga kahilingan, sa aming artikulo sa Help Center tungkol sa pag-aalis ng personal na data mula sa ChatGPT. Sinusuri namin ang mga kahilingan alinsunod sa naaangkop na mga batas sa privacy at tumutugon kami sa loob ng naaangkop na mga legal na takdang panahon.
Pakitandaan na, alinsunod sa mga batas sa privacy, maaaring hindi ganap ang ilang karapatan. Halimbawa, maaaring hindi namin matupad ang isang kahilingan kung hindi namin ma-verify ang nauugnay na impormasyon, kung ang kahilingan ay walang kaugnayan sa personal na impormasyong pinoproseso ng OpenAI, kung may nalalapat na exemption, o kung mayroon kaming iba pang legal na dahilan para gawin iyon. Sinusuri ang mga kahilingan ayon sa bawat kaso at maaaring kabilang dito ang pagbabalanse ng mga karapatan sa privacy laban sa iba pang mahahalagang konsiderasyon, gaya ng kalayaan sa pagpapahayag at interes ng publiko.
Gayunpaman, nagsisikap kaming unahin ang proteksyon ng personal na impormasyon, at sumunod sa lahat ng naaangkop na batas sa privacy. Kung sa palagay mo ay hindi namin sapat na natugunan ang isang isyu, may karapatan kang maghain ng reklamo sa iyong lokal na supervisory authority.
Para sa higit pang impormasyon tungkol sa mga gawain ng OpenAI kaugnay ng personal na impormasyong kinokolekta namin mula sa iyo o tungkol sa iyo kapag ginagamit mo ang aming website, mga application, at serbisyo, pakitingnan ang aming Patakaran sa Privacy.