OpenAI:s grundmodeller, däribland de modeller som driver ChatGPT, utvecklas med hjälp av tre huvudsakliga informationskällor: (1) information som är offentligt tillgänglig på internet, (2) information som vi samarbetar med tredje parter för att få tillgång till och (3) information som våra användare, mänskliga tränare och forskare tillhandahåller eller genererar.
Att utveckla grundmodeller som de som används i ChatGPT omfattar flera steg, bland annat att förbereda träningsdata, förträning och efterträning, samt löpande utvärdering och förbättring efter lansering. Olika typer av information kan användas i dessa steg för olika syften, bland annat för att förbättra modellernas prestanda, tillförlitlighet och säkerhet.
Den här artikeln ger en översikt över den information vi använder för att bidra till att utveckla dessa modeller, hur vi samlar in och använder informationen i enlighet med integritetslagstiftning och vilka skyddsåtgärder vi tillämpar under hela träningsprocessen. För att förstå hur vi samlar in och använder information från användare av våra tjänster, inklusive hur du kan välja bort att ChatGPT-konversationer används för att förbättra våra modeller, se vår Integritetspolicy och den här hjälpcenterartikeln.
Vad är ChatGPT och hur fungerar det?
ChatGPT är en tjänst baserad på artificiell intelligens som du kan komma åt via internet eller appen. Du kan använda ChatGPT för en mängd olika uppgifter, bland annat att organisera och sammanfatta information, hjälpa till med översättningar, stödja kodning, forskning och analys, utföra uppgifter i flera steg i olika verktyg, analysera eller generera bilder, inspirera kreativitet och idéer samt andra vardagliga aktiviteter. ChatGPT är utformat för att förstå och svara på användares frågor och instruktioner genom att lära sig mönster från stora mängder information, inklusive text, bilder, ljud och video.
Under träningen analyserar modellen samband i dessa data – till exempel hur ord vanligtvis förekommer tillsammans i ett sammanhang – och använder den förståelsen för att förutsäga det mest sannolika nästa ordet när den genererar ett svar, ett ord i taget. Text kan omvandlas till mindre enheter, ibland kallade ”token”, som kan motsvara hela ord, delar av ord eller skiljetecken. Token är de byggstenar i text som modellen bearbetar. På liknande sätt lär sig modeller som genererar andra former av innehåll, till exempel bilder, mönster i hur pixlar förhåller sig till varandra och till tillhörande bildtexter i träningsdata.
Under modellens inlärningsprocess (som kallas ”träning”) kan modellen till exempel få i uppgift att slutföra en mening som: ”I stället för att svänga vänster svängde hon ___.” Tidigt i träningen är svaren till stor del slumpmässiga. Men i takt med att modellen bearbetar och lär sig från stora mängder text blir den bättre på att känna igen mönster och förutsäga det mest sannolika nästa ordet. Denna process upprepas med miljontals meningar för att förfina modellens förståelse och förbättra dess träffsäkerhet.
Eftersom det finns flera rimliga sätt att slutföra en mening – till exempel ”I stället för att svänga vänster svängde hon höger”, ”runt” eller ”tillbaka” – finns det ett inneboende inslag av slumpmässighet i hur modellen svarar. Därför kan samma fråga ge olika svar vid olika förfrågningar.
Maskininlärningsmodeller består av stora uppsättningar tal, så kallade ”vikter” eller ”parametrar”, tillsammans med kod som tolkar och använder dessa tal. Dessa modeller lagrar eller behåller inte kopior av de data de tränas på. I stället justeras värdena på modellens parametrar något när den lär sig, för att återspegla mönster som den har identifierat. I det tidigare exemplet gick modellen från att förutsäga slumpmässiga ord till att göra mer träffsäkra förutsägelser – inte genom att lagra träningsmeningarna, utan genom att uppdatera sina interna parametrar. Modellen behåller inte kopior av de meningar, bilder eller ljud som den bearbetar under träningen. ChatGPT ”kopierar och klistrar” inte från sina träningsdata – på samma sätt som en lärare efter omfattande studier kan förklara begrepp genom att förstå sambanden mellan idéer utan att memorera eller återge originalmaterialet ordagrant. När modellen genererar ett svar på en användares begäran använder den dessa inlärda vikter för att förutsäga och skapa nytt innehåll.
Vilken typ av information används för att lära upp ChatGPT?
För offentligt tillgängligt internetinnehåll använder vi endast information som är fritt och öppet tillgänglig på internet. Det kan omfatta offentligt tillgängliga webbsidor, offentliga forum, offentliga bloggar, offentliga inlägg och annat offentligt tillgängligt innehåll online. Om du till exempel deltar i ett offentligt tillgängligt diskussionsforum online eller publicerar en offentlig blogg eller annat offentligt inlägg kan vi använda detta offentligt tillgängliga innehåll för modellträning. Vi vidtar dock åtgärder för att minska behandlingen av personuppgifter i vår träningsprocess. När vi samlar in offentligt tillgängligt internetinnehåll samlar vi inte avsiktligt in data från källor som vi vet ligger bakom betalväggar eller från dark web. Dessutom använder vi filter för att ta bort material som vi inte vill att våra modeller ska lära sig av, till exempel hatiskt innehåll, vuxeninnehåll, webbplatser som samlar in personuppgifter och skräppost. Den återstående informationen används sedan för att träna våra modeller.
Webbplatsägare kan styra om offentligt tillgängligt innehåll från deras webbplatser får nås för användning i träning genom att använda standardkontroller för webben, till exempel robots.txt, för att neka GPTBot, som kan genomsöka offentligt tillgängligt innehåll för att bidra till att träna våra modeller. Vi tillhandahåller vägledning för att hjälpa webbplatsägare att hantera hur deras webbplatser och innehåll samverkar med våra AI-system.
Vi använder också information från tredjepartspartner för att bidra till att träna och förbättra våra modeller. Det kan omfatta information i datauppsättningar som vi får tillgång till genom avtal med tredje parter, samt information som tillhandahålls eller genereras av mänskliga tränare och forskare när det är tillåtet enligt våra policyer och avtal. Detta bidrar till att förbättra våra modellers kvalitet, säkerhet och prestanda. Dessa källor kan innehålla text, bilder, ljud, video eller andra datatyper, beroende på datauppsättningen.
Vi använder också i allt högre grad syntetiska data i vissa träningsprocesser. Vi kan till exempel använda information och våra modeller för att generera syntetiska prompter, flerspråkiga exempel eller annat träningsmaterial. Syntetiska data kan bidra till att förbättra modellprestanda, bland annat genom att komplettera träningsdata inom områden där data är sparsamma eller obalanserade, och kan även stödja integritetsfrämjande arbetssätt vid modellutveckling.
Används personuppgifter för att lära upp ChatGPT?
En betydande del av innehållet på nätet handlar om information om personer, så våra träningsdata kan oavsiktligt innehålla personuppgifter. Vi vidtar dock åtgärder för att minska behandlingen av personuppgifter i vår träningsprocess.
Vi använder träningsdata för att utveckla modellens förmågor – såsom förutsägelse, resonemang och problemlösning – inte för att skapa profiler av individer, kontakta dem eller anpassa annonser till dem.
I vissa fall kan modeller lära sig av personuppgifter för att förstå hur element som namn och adresser fungerar i språk, eller för att känna igen offentliga personer och välkända organisationer. Detta hjälper modellen att generera mer korrekta och kontextuellt lämpliga svar.
Hur skyddas personuppgifter under träningen?
Vi vidtar aktiva åtgärder för att begränsa behandlingen av personuppgifter under träningen. Vi utesluter till exempel kända källor som samlar stora mängder personuppgifter, använder filtrering för att minska mängden personuppgifter i träningsprocessen och vidtar åtgärder för att identifiera och ta bort duplicerat innehåll för att minska risken för att träningsdata upprepas. Dessutom tränar vi våra modeller att undvika att svara på förfrågningar om privat eller känslig information om individer.
Hur länge vi behåller information
Vi behåller information i träningsdata endast så länge det rimligen är nödvändigt för de syften som beskrivs i den här artikeln och i vår Integritetspolicy, bland annat för att utveckla och förbättra våra modeller och för relaterade vetenskapliga forskningsändamål. Lagringen granskas regelbundet för att säkerställa att den fortsatt är nödvändig och varierar beroende på typen av information och hur den används. När vi avgör hur länge information ska behållas beaktar vi faktorer som vårt syfte med att behandla informationen, informationens mängd, karaktär och känslighet, den potentiella risken för skada vid obehörig användning eller utlämnande samt eventuella rättsliga skyldigheter som vi omfattas av.
Hur följer utvecklingen av ChatGPT integritetslagstiftningen?
Vi använder träningsinformation på ett lagligt sätt. Våra grundmodeller driver ett brett spektrum av nyttiga tillämpningar – bland annat tillgänglighetsverktyg, kundsupport, programvaruutveckling, individanpassad utbildning och vetenskaplig forskning. Dessa förmågor är beroende av storskaliga träningsdata, inklusive offentligt tillgänglig information och information från tredjepartspartner. Vi tillämpar skyddsåtgärder under hela träningsprocessen, inklusive åtgärder som är utformade för att minska behandlingen av personuppgifter i träningsprocessen och begränsa risker, enligt beskrivningen i den här artikeln. Vi baserar vår insamling och användning av personuppgifter som ingår i träningsinformation på berättigade intressen enligt integritetslagstiftning som GDPR, bland annat för att träna och förbättra våra modeller för användare och samhället i stort i linje med vårt uppdrag att säkerställa att artificiell generell intelligens gynnar alla, vilket förklaras närmare i vår Integritetspolicy. Vi har genomfört en konsekvensbedömning avseende dataskydd för att bidra till att säkerställa att vi samlar in och använder denna information på ett lagligt och ansvarsfullt sätt.
När information kan delas eller överföras
Vi ”säljer” inte personuppgifter och lämnar endast ut personuppgifter i träningsdata under de begränsade omständigheter som beskrivs i vår Integritetspolicy. Vi kan till exempel dela information med närstående bolag, leverantörer och tjänsteleverantörer som stödjer utveckling, testning och förbättring av våra modeller. Vi kan också lämna ut information när vi i god tro anser att detta är nödvändigt för att uppfylla en rättslig skyldighet eller för att skydda våra rättigheter och vår trygghet och säkerhet samt våra användares, anställdas eller allmänhetens rättigheter, trygghet och säkerhet, enligt beskrivningen i vår Integritetspolicy.
Eftersom vår infrastruktur är global kan personuppgifter i träningsdata behandlas i länder utanför EES, Schweiz eller Storbritannien (inklusive i USA). När detta sker tillämpar vi lämpliga skyddsåtgärder, såsom beslut om adekvat skyddsnivå eller standardavtalsklausuler, enligt beskrivningen i vår Integritetspolicy.
Dina rättigheter och hur du utövar dem
Vi svarar på invändningar och liknande begäranden om rättigheter. Som ett resultat av att lära sig språk kan ChatGPT-svar ibland innehålla personuppgifter om individer vars personuppgifter förekommer flera gånger på det offentliga internet (till exempel offentliga personer). Personer i vissa jurisdiktioner kan invända mot att deras personuppgifter behandlas av våra modeller eller göra andra begäranden om registrerades rättigheter via vår Integritetsportal. Du kan också utöva dessa rättigheter genom att kontakta privacy@openai.com.
För att hjälpa oss att bedöma och besvara din begäran ber vi dig lämna tillräckligt med information för att vi ska förstå vilka personuppgifter din begäran gäller, till exempel ditt namn, relevanta URL:er, specifika exempel på modellutdata eller andra uppgifter som hjälper till att identifiera problemet. I vissa fall kan vi be dig att verifiera din identitet eller bekräfta att informationen rör dig innan vi kan vidta åtgärder. Mer information om hur du skickar in sådana begäranden, inklusive bästa praxis och hur begäranden granskas, finns i vår artikel i Hjälpcenter om borttagning av personuppgifter från ChatGPT. Vi granskar begäranden i enlighet med tillämplig integritetslagstiftning och svarar inom tillämpliga lagstadgade tidsfrister.
Observera att vissa rättigheter, i enlighet med integritetslagstiftningen, kanske inte är absoluta. Vi kanske till exempel inte kan uppfylla en begäran om vi inte kan verifiera den relevanta informationen, om begäran inte gäller personuppgifter som behandlas av OpenAI, om ett undantag är tillämpligt eller om vi har något annat lagligt skäl att inte göra det. Begäranden bedöms från fall till fall och kan innebära en avvägning mellan integritetsrättigheter och andra viktiga hänsyn, såsom yttrandefrihet och allmänintresset.
Vi strävar dock efter att prioritera skyddet av personuppgifter och följer all tillämplig integritetslagstiftning. Om du anser att vi inte har hanterat ett problem på ett tillräckligt sätt har du rätt att lämna in ett klagomål till din lokala tillsynsmyndighet.
Mer information om OpenAI:s rutiner för personuppgifter som vi samlar in från eller om dig när du använder vår webbplats, våra applikationer och tjänster finns i vår Integritetspolicy.