OpenAIs grunnmodeller, inkludert modellene som driver ChatGPT, utvikles ved hjelp av tre hovedkilder til informasjon: (1) informasjon som er offentlig tilgjengelig på internett, (2) informasjon vi får tilgang til gjennom samarbeid med tredjeparter, og (3) informasjon som brukerne, de menneskelige instruktørene og forskerne våre gir eller genererer.
Utviklingen av grunnmodeller som dem som brukes i ChatGPT, omfatter flere faser, blant annet klargjøring av treningsdata, førtrening og ettertrening samt løpende evaluering og forbedring etter lansering. Ulike typer informasjon kan brukes i disse fasene til forskjellige formål, blant annet for å forbedre modellenes ytelse, pålitelighet og sikkerhet.
Denne artikkelen gir en oversikt over informasjonen vi bruker til å utvikle disse modellene, hvordan vi samler inn og bruker informasjonen i samsvar med personvernlovgivningen, og hvilke sikkerhetstiltak vi benytter gjennom hele treningsprosessen. Hvis du vil vite hvordan vi samler inn og bruker informasjon fra brukerne av tjenestene våre, inkludert hvordan du kan reservere deg mot at ChatGPT-samtaler brukes til å forbedre modellene våre, kan du lese personvernerklæringen og denne artikkelen i hjelpesenteret.
Hva er ChatGPT, og hvordan fungerer det?
ChatGPT er en tjeneste basert på kunstig intelligens som du kan bruke via internett eller en app. Du kan bruke ChatGPT til en rekke oppgaver, blant annet å organisere og oppsummere informasjon, få hjelp med oversettelser, programmering, forskning og analyse, utføre oppgaver i flere trinn på tvers av verktøy, analysere eller generere bilder, få inspirasjon til kreativitet og ideer og utføre andre daglige gjøremål. ChatGPT er utviklet for å forstå og svare på spørsmål og instruksjoner fra brukere ved å lære mønstre fra store mengder informasjon, inkludert tekst, bilder, lyd og video.
Under treningen analyserer modellen sammenhenger i disse dataene – for eksempel hvordan ord vanligvis opptrer sammen i en kontekst – og bruker denne forståelsen til å forutsi det mest sannsynlige neste ordet når den genererer et svar, ett ord om gangen. Tekst kan deles opp i mindre enheter, noen ganger kalt «tokener», som kan representere hele ord, deler av ord eller tegnsetting. Tokener er byggesteinene i teksten som modellen behandler. På samme måte lærer modeller som genererer andre typer innhold, for eksempel bilder, mønstre i hvordan piksler henger sammen med hverandre og med tilhørende bildetekster i treningsdataene.
Under modellens læringsprosess (kjent som «trening») kan den for eksempel få i oppgave å fullføre en setning som: «I stedet for å svinge til venstre svingte hun ___.» Tidlig i treningen er svarene stort sett tilfeldige. Etter hvert som modellen behandler og lærer av store mengder tekst, blir den imidlertid bedre til å gjenkjenne mønstre og forutsi det mest sannsynlige neste ordet. Denne prosessen gjentas på tvers av millioner av setninger for å finjustere forståelsen og forbedre treffsikkerheten.
Fordi en setning kan fullføres på flere sannsynlige måter – for eksempel «I stedet for å svinge til venstre svingte hun til høyre», «rundt» eller «tilbake» – vil det alltid være et visst innslag av tilfeldighet i modellens svar. Det samme spørsmålet kan derfor gi forskjellige svar når det stilles flere ganger.
Maskinlæringsmodeller består av store mengder tall, kjent som «vekter» eller «parametere», samt kode som tolker og bruker disse tallene. Disse modellene lagrer eller beholder ikke kopier av dataene de trenes på. Når en modell lærer, justeres i stedet parameterverdiene litt for å gjenspeile mønstrene den har funnet. I eksempelet ovenfor gikk modellen fra å forutsi tilfeldige ord til å gi mer treffsikre forutsigelser – ikke ved å lagre treningssetningene, men ved å oppdatere de interne parameterne. Modellen beholder ikke kopier av setningene, bildene eller lyden den behandler under treningen. ChatGPT «kopierer og limer» ikke fra treningsdataene sine. Det kan sammenlignes med hvordan en lærer etter omfattende studier kan forklare begreper ved å forstå sammenhengene mellom ideer, uten å lære eller gjengi originalmaterialet ordrett. Når modellen genererer et svar på en brukerforespørsel, bruker den disse innlærte vektene til å forutsi og skape nytt innhold.
Hva slags informasjon brukes til å lære opp ChatGPT?
Når det gjelder offentlig tilgjengelig innhold på internett, bruker vi bare informasjon som er fritt og åpent tilgjengelig. Dette kan omfatte offentlig tilgjengelige nettsider, forum, blogger, innlegg og annet offentlig tilgjengelig innhold på nettet. Hvis du for eksempel deltar i et offentlig tilgjengelig diskusjonsforum på nettet eller publiserer en offentlig blogg eller et annet offentlig innlegg, kan vi bruke dette offentlig tilgjengelige innholdet til modelltrening. Vi iverksetter imidlertid tiltak for å redusere behandlingen av personopplysninger i treningsprosessen. Når vi samler inn offentlig tilgjengelig innhold på internett, henter vi ikke med hensikt data fra kilder som vi vet ligger bak betalingsmurer, eller fra det mørke nettet. I tillegg bruker vi filtre til å fjerne materiale vi ikke vil at modellene våre skal lære av, for eksempel hatefulle ytringer, vokseninnhold, nettsteder som samler personopplysninger, og nettsøppel. Den gjenværende informasjonen brukes deretter til å trene modellene våre.
Nettstedseiere kan styre om offentlig tilgjengelig innhold fra nettstedene deres kan hentes og brukes til trening, ved å bruke standardiserte nettkontroller som robots.txt til å blokkere GPTBot, som kan gjennomsøke offentlig tilgjengelig innhold for å bidra til å trene modellene våre. Vi tilbyr veiledning som hjelper nettstedseiere med å styre hvordan nettstedene og innholdet deres samhandler med KI-systemene våre.
Vi bruker også informasjon fra tredjepartspartnere til å trene og forbedre modellene våre. Dette kan omfatte informasjon i datasett vi får tilgang til gjennom avtaler med tredjeparter, samt informasjon som menneskelige instruktører og forskere gir eller genererer når dette er tillatt i henhold til retningslinjene og avtalene våre. Dette bidrar til å forbedre kvaliteten, sikkerheten og ytelsen til modellene våre. Avhengig av datasettet kan disse kildene inneholde tekst, bilder, lyd, video eller andre datatyper.
Vi bruker også stadig mer syntetiske data i enkelte treningsprosesser. Vi kan for eksempel bruke informasjon og modellene våre til å generere syntetiske ledetekster, flerspråklige eksempler eller annet treningsmateriale. Syntetiske data kan bidra til å forbedre modellytelsen, blant annet ved å supplere treningsdata på områder der det finnes lite data eller dataene er ubalanserte. De kan også støtte personvernfremmende metoder for modellutvikling.
Brukes personopplysninger til å lære opp ChatGPT?
En betydelig del av innholdet på nettet omfatter opplysninger om personer, så treningsdataene våre kan utilsiktet inneholde personopplysninger. Vi iverksetter imidlertid tiltak for å redusere behandlingen av personopplysninger i treningsprosessen.
Vi bruker treningsdata til å utvikle modellens evner – som forutsigelse, resonnering og problemløsning – ikke til å lage profiler av enkeltpersoner, kontakte dem eller tilpasse annonser til dem.
I noen tilfeller kan modeller lære av personopplysninger for å forstå hvordan elementer som navn og adresser fungerer i språket, eller for å gjenkjenne offentlige personer og kjente aktører. Dette hjelper modellen med å generere mer presise og kontekstuelt passende svar.
Hvordan beskyttes personopplysninger under treningen?
Vi iverksetter aktive tiltak for å begrense behandlingen av personopplysninger under treningen. Vi utelukker for eksempel kjente kilder som samler store mengder personopplysninger, bruker filtre for å redusere mengden personopplysninger i treningsprosessen og iverksetter tiltak for å finne og fjerne duplisert innhold for å redusere risikoen for at treningsdata gjentas. I tillegg trener vi modellene våre til å unngå å svare på forespørsler om private eller sensitive opplysninger om enkeltpersoner.
Hvor lenge vi oppbevarer informasjon
Vi oppbevarer informasjon i treningsdata bare så lenge det med rimelighet er nødvendig for formålene som beskrives i denne artikkelen og personvernerklæringen vår, blant annet for å utvikle og forbedre modellene våre og for tilknyttede vitenskapelige forskningsformål. Oppbevaringen gjennomgås regelmessig for å sikre at den fortsatt er nødvendig, og varigheten varierer etter typen informasjon og hvordan den brukes. Når vi fastsetter oppbevaringstiden, vurderer vi faktorer som formålet med å behandle informasjonen, mengden og arten av informasjonen, hvor sensitiv den er, den mulige risikoen for skade ved uautorisert bruk eller utlevering og eventuelle juridiske forpliktelser vi er underlagt.
Hvordan overholder utviklingen av ChatGPT personvernlovgivningen?
Vi bruker treningsinformasjon på lovlig vis. Grunnmodellene våre driver en rekke nyttige løsninger – blant annet tilgjengelighetsverktøy, kundestøtte, programvareutvikling, persontilpasset opplæring og vitenskapelig forskning. Disse egenskapene er avhengige av store mengder treningsdata, inkludert offentlig tilgjengelig informasjon og informasjon fra tredjepartspartnere. Vi bruker sikkerhetstiltak gjennom hele treningsprosessen, inkludert tiltak som skal redusere behandlingen av personopplysninger under treningen og begrense risiko, som beskrevet i denne artikkelen. Vi baserer innsamlingen og bruken av personopplysninger som inngår i treningsinformasjon, på berettigede interesser i henhold til personvernlovgivning som GDPR. Dette omfatter å trene og forbedre modellene våre for brukerne og samfunnet generelt, i tråd med oppdraget vårt om å sikre at kunstig generell intelligens kommer alle til gode, som forklart nærmere i personvernerklæringen vår. Vi har gjennomført en vurdering av personvernkonsekvenser for å bidra til å sikre at vi samler inn og bruker denne informasjonen lovlig og ansvarlig.
Når informasjon kan deles eller overføres
Vi «selger» ikke personopplysninger og utleverer bare personopplysninger i treningsdata under de begrensede omstendighetene som er beskrevet i personvernerklæringen vår. Vi kan for eksempel dele informasjon med tilknyttede selskaper, leverandører og tjenesteleverandører som støtter utviklingen, testingen og forbedringen av modellene våre. Vi kan også utlevere informasjon dersom vi i god tro mener at dette er nødvendig for å overholde en juridisk forpliktelse eller beskytte rettighetene og sikkerheten til oss, brukerne våre, de ansatte eller allmennheten, som beskrevet i personvernerklæringen vår.
Fordi infrastrukturen vår er global, kan personopplysninger i treningsdata behandles i land utenfor EØS, Sveits eller Storbritannia (inkludert USA). Når dette skjer, bruker vi egnede sikkerhetstiltak, for eksempel beslutninger om tilstrekkelig beskyttelsesnivå eller standard personvernbestemmelser, som beskrevet i personvernerklæringen vår.
Rettighetene dine og hvordan du utøver dem
Vi svarer på innsigelser og lignende forespørsler om å utøve rettigheter. Som følge av at ChatGPT lærer språk, kan svarene noen ganger inneholde personopplysninger om personer som er omtalt flere ganger på det offentlige internettet (for eksempel offentlige personer). Personer i visse jurisdiksjoner kan protestere mot at personopplysningene deres behandles av modellene våre, eller sende inn andre forespørsler om registrertes rettigheter gjennom personvernsportalen vår. Du kan også utøve disse rettighetene ved å kontakte privacy@openai.com.
For at vi skal kunne vurdere og besvare forespørselen din, må du oppgi nok informasjon til at vi kan forstå hvilke personopplysninger den gjelder, for eksempel navnet ditt, relevante nettadresser, konkrete eksempler på modellresultater eller andre opplysninger som gjør det lettere å identifisere problemet. I noen tilfeller kan vi be deg bekrefte identiteten din eller at informasjonen gjelder deg, før vi kan iverksette tiltak. Du finner mer informasjon om hvordan du sender inn slike forespørsler, inkludert anbefalte fremgangsmåter og hvordan forespørslene vurderes, i artikkelen i hjelpesenteret om fjerning av personopplysninger fra ChatGPT. Vi vurderer forespørsler i samsvar med gjeldende personvernlovgivning og svarer innen gjeldende lovbestemte frister.
Vær oppmerksom på at enkelte rettigheter ikke nødvendigvis er absolutte i henhold til personvernlovgivningen. Vi kan for eksempel være ute av stand til å etterkomme en forespørsel dersom vi ikke kan bekrefte den relevante informasjonen, forespørselen ikke gjelder personopplysninger som behandles av OpenAI, et unntak gjelder, eller vi har et annet lovlig grunnlag for ikke å gjøre det. Forespørsler vurderes individuelt og kan innebære en avveining mellom personvernrettigheter og andre viktige hensyn, som ytringsfrihet og allmennhetens interesse.
Vi forsøker imidlertid å prioritere beskyttelsen av personopplysninger og overholde all gjeldende personvernlovgivning. Hvis du mener at vi ikke har håndtert en sak på en tilfredsstillende måte, har du rett til å klage til den lokale tilsynsmyndigheten.
Du finner mer informasjon om OpenAIs praksis for personopplysninger som vi samler inn fra eller om deg når du bruker nettstedet, appene og tjenestene våre, i personvernerklæringen vår.