OpenAI
Denne side er maskinoversat. Se den originale engelske artikel.

Sådan udvikles ChatGPT og vores grundmodeller

Læs mere om, hvordan vi udvikler vores modeller og bruger dem i produkter som ChatGPT.

Opdateret: 20 days ago

OpenAI's grundmodeller, herunder de modeller, som ChatGPT bygger på, udvikles ved hjælp af tre primære informationskilder: (1) oplysninger, der er offentligt tilgængelige på internettet, (2) oplysninger, som vi får adgang til gennem samarbejde med tredjeparter, og (3) oplysninger, som vores brugere, menneskelige trænere og forskere leverer eller genererer.

Udviklingen af grundmodeller som dem, der bruges i ChatGPT, omfatter flere faser, herunder klargøring af træningsdata, fortræning og eftertræning samt løbende evaluering og forbedring efter ibrugtagning. I disse faser kan forskellige typer oplysninger bruges til forskellige formål, herunder til at forbedre modellernes ydeevne, pålidelighed og sikkerhed. 

Denne artikel giver et overblik over de oplysninger, vi bruger til at udvikle disse modeller, hvordan vi indsamler og bruger oplysningerne i overensstemmelse med databeskyttelseslovgivningen, og de beskyttelsesforanstaltninger, vi anvender gennem hele træningsprocessen. Læs vores privatlivspolitik og artiklen om, hvordan dine data bruges til at forbedre modellernes ydeevne, for at få mere at vide om, hvordan vi indsamler og bruger oplysninger fra brugere af vores tjenester, og hvordan du fravælger, at dine ChatGPT-samtaler bruges til at forbedre vores modeller.

Hvad er ChatGPT, og hvordan fungerer det?

ChatGPT er en tjeneste baseret på kunstig intelligens, som du kan tilgå via internettet eller en app. Du kan bruge ChatGPT til en lang række opgaver, blandt andet til at organisere og opsummere oplysninger, hjælpe med oversættelse, kodning, research og analyse, udføre opgaver med flere trin på tværs af værktøjer, analysere eller generere billeder, inspirere til kreativitet og idéer samt hjælpe med andre hverdagsopgaver. ChatGPT er udviklet til at forstå og reagere på brugernes spørgsmål og instruktioner ved at lære mønstre fra store mængder oplysninger, herunder tekst, billeder, lyd og video. 

Under træningen analyserer modellen sammenhænge i disse data – for eksempel hvordan ord typisk optræder sammen i en given kontekst – og bruger denne forståelse til at forudsige det mest sandsynlige næste ord, når den genererer et svar, ét ord ad gangen. Tekst kan omdannes til mindre enheder, som undertiden kaldes »tokens«, og som kan repræsentere hele ord, dele af ord eller tegnsætning. Tokens er de byggesten i teksten, som modellen behandler. På samme måde lærer modeller, der genererer andre former for indhold, såsom billeder, mønstre i, hvordan pixels hænger sammen med hinanden og med de tilhørende billedtekster i træningsdataene.

Under modellens læringsproces (kaldet »træning«) kan den for eksempel få til opgave at færdiggøre en sætning som: »I stedet for at dreje til venstre drejede hun ___.« I begyndelsen af træningen er dens svar i vid udstrækning tilfældige. Men efterhånden som modellen behandler og lærer af store mængder tekst, bliver den bedre til at genkende mønstre og forudsige det mest sandsynlige næste ord. Denne proces gentages med millioner af sætninger for at forfine modellens forståelse og forbedre dens præcision.

Da der er flere plausible måder at færdiggøre en sætning på – såsom »I stedet for at dreje til venstre drejede hun til højre«, »rundt« eller »tilbage« – er der et indbygget element af tilfældighed i modellens svar. Derfor kan det samme spørgsmål give forskellige svar, når det stilles flere gange.

Maskinlæringsmodeller består af store samlinger af tal, kaldet »vægte« eller »parametre«, samt kode, der fortolker og bruger disse tal. Disse modeller gemmer eller opbevarer ikke kopier af de data, de trænes på. I stedet justeres parametrenes værdier en smule, efterhånden som modellen lærer, så de afspejler de mønstre, den har identificeret. I det tidligere eksempel gik modellen fra at forudsige tilfældige ord til at komme med mere præcise forudsigelser – ikke ved at gemme træningssætningerne, men ved at opdatere sine interne parametre. Modellen gemmer ikke kopier af de sætninger, billeder eller lyddata, den behandler under træningen. ChatGPT »kopierer og indsætter« ikke fra sine træningsdata – ligesom en lærer efter omfattende studier kan forklare begreber ved at forstå sammenhængene mellem idéer uden at lære de oprindelige materialer udenad eller gengive dem ordret. Når modellen genererer et svar på en brugers anmodning, bruger den disse indlærte vægte til at forudsige og skabe nyt indhold.

Hvilken type oplysninger bruges til at træne ChatGPT?

Når det gælder offentligt tilgængeligt internetindhold, bruger vi kun oplysninger, som alle frit kan tilgå på internettet. Det kan omfatte offentligt tilgængelige websider, fora, blogs, opslag og andet offentligt tilgængeligt onlineindhold. Hvis du for eksempel deltager i et offentligt tilgængeligt diskussionsforum på nettet eller udgiver et offentligt blogindlæg eller andet opslag, kan vi bruge dette offentligt tilgængelige indhold til at træne modeller. Vi træffer dog foranstaltninger for at begrænse behandlingen af personoplysninger i vores træningsproces.  Når vi indsamler offentligt tilgængeligt internetindhold, indsamler vi ikke bevidst data fra kilder, som vi ved er bag betalingsmure, eller fra det mørke net. Vi bruger desuden filtre til at fjerne materiale, som vi ikke ønsker, at vores modeller skal lære af, såsom hadefulde ytringer, seksuelt indhold, websteder, der samler personoplysninger, og spam. De resterende oplysninger bruges derefter til at træne vores modeller. 

Webstedsejere kan styre, om offentligt tilgængeligt indhold fra deres websteder må tilgås til brug i træning, ved at bruge standardværktøjer som robots.txt til at blokere GPTBot, der kan gennemgå offentligt tilgængeligt indhold til brug i træningen af vores modeller. Vi stiller vejledning til rådighed for at hjælpe webstedsejere med at styre, hvordan deres websteder og indhold interagerer med vores AI-systemer. 

Vi bruger også oplysninger fra eksterne partnere til at træne og forbedre vores modeller. Det kan omfatte oplysninger i datasæt, som vi får adgang til gennem aftaler med tredjeparter, samt oplysninger, som menneskelige trænere og forskere leverer eller genererer, når det er tilladt i henhold til vores politikker og aftaler. Det bidrager til at forbedre vores modellers kvalitet, sikkerhed og ydeevne. Disse kilder kan omfatte tekst, billeder, lyd, video eller andre datatyper, afhængigt af datasættet.

Vi bruger også i stigende grad syntetiske data i nogle træningsprocesser. For eksempel kan vi bruge oplysninger og vores modeller til at generere syntetiske prompts, flersprogede eksempler eller andet træningsmateriale. Syntetiske data kan bidrage til at forbedre modellernes ydeevne, blandt andet ved at supplere træningsdata på områder, hvor data er sparsomme eller skævt fordelt. De kan også understøtte metoder til modeludvikling, der styrker beskyttelsen af privatlivet.

Bruges personoplysninger til at træne ChatGPT?

En betydelig del af indholdet på nettet indeholder oplysninger om mennesker, så vores træningsdata kan utilsigtet indeholde personoplysninger. Vi træffer dog foranstaltninger for at begrænse behandlingen af personoplysninger i vores træningsproces.

Vi bruger træningsdata til at udvikle modellens evner – såsom forudsigelse, ræsonnering og problemløsning – ikke til at opbygge profiler af enkeltpersoner, kontakte dem eller målrette annoncer til dem.

I nogle tilfælde kan modeller lære af personoplysninger for at forstå, hvordan elementer som navne og adresser fungerer i sproget, eller for at genkende offentlige personer og velkendte enheder. Det hjælper modellen med at generere mere præcise svar, der passer bedre til sammenhængen.

Hvordan beskyttes personoplysninger under træningen?

Vi arbejder aktivt på at begrænse behandlingen af personoplysninger under træningen. For eksempel udelukker vi kendte kilder, der samler store mængder personoplysninger, bruger filtrering til at begrænse mængden af personoplysninger i træningsprocessen og træffer foranstaltninger til at identificere og fjerne dubleret indhold for at mindske risikoen for, at træningsdata gengives. Derudover træner vi vores modeller til at undgå at besvare anmodninger om private eller følsomme oplysninger om enkeltpersoner. 

Hvor længe vi opbevarer oplysninger

Vi opbevarer kun oplysninger i træningsdata, så længe det med rimelighed er nødvendigt til de formål, der er beskrevet i denne artikel og vores privatlivspolitik, herunder til at udvikle og forbedre vores modeller og til relaterede videnskabelige forskningsformål. Vi vurderer regelmæssigt, om opbevaringen fortsat er nødvendig. Opbevaringsperioden varierer afhængigt af oplysningernes type og anvendelse. Når vi fastlægger opbevaringsperioden, tager vi hensyn til faktorer som formålet med behandlingen, oplysningernes mængde, karakter og følsomhed, den potentielle risiko for skade som følge af uautoriseret brug eller videregivelse samt eventuelle retlige forpligtelser, vi er underlagt.

Hvordan overholder udviklingen af ChatGPT databeskyttelseslovgivningen?

Vi bruger oplysninger til træning på lovlig vis. Vores grundmodeller understøtter en lang række nyttige anvendelser – herunder tilgængelighedsværktøjer, kundesupport, softwareudvikling, individuelt tilpasset undervisning og videnskabelig forskning. Disse evner kræver store mængder træningsdata, herunder offentligt tilgængelige oplysninger og oplysninger fra eksterne partnere. Vi anvender beskyttelsesforanstaltninger gennem hele træningsprocessen, herunder tiltag, der skal begrænse behandlingen af personoplysninger i træningsprocessen og mindske risici, som beskrevet i denne artikel. Vores indsamling og brug af personoplysninger, der indgår i træningsdata, er baseret på legitime interesser i henhold til databeskyttelseslovgivning som GDPR. Det omfatter træning og forbedring af vores modeller til gavn for brugerne og samfundet som helhed i tråd med vores mission om at sikre, at kunstig generel intelligens kommer alle til gode. Dette er nærmere forklaret i vores privatlivspolitik. Vi har gennemført en konsekvensanalyse vedrørende databeskyttelse for at bidrage til at sikre, at vi indsamler og bruger disse oplysninger lovligt og ansvarligt.

Hvornår oplysninger kan blive delt eller overført

Vi »sælger« ikke personoplysninger og videregiver kun personoplysninger i træningsdata under de begrænsede omstændigheder, der er beskrevet i vores privatlivspolitik. Vi kan for eksempel dele oplysninger med tilknyttede selskaber, leverandører og tjenesteudbydere, der understøtter udvikling, test og forbedring af vores modeller. Vi kan også videregive oplysninger, hvis vi i god tro mener, at det er nødvendigt for at overholde en retlig forpligtelse eller beskytte vores egne og vores brugeres, medarbejderes eller offentlighedens rettigheder, tryghed og sikkerhed, som beskrevet i vores privatlivspolitik.

Da vores infrastruktur er global, kan personoplysninger i træningsdata blive behandlet i lande uden for EØS, Schweiz eller Storbritannien (herunder USA). Når det sker, anvender vi passende garantier, såsom afgørelser om et tilstrækkeligt beskyttelsesniveau eller standardkontraktbestemmelser, som beskrevet i vores privatlivspolitik.

Dine rettigheder, og hvordan du udøver dem

Vi besvarer indsigelser og lignende anmodninger om udøvelse af rettigheder. Som følge af sin sprogindlæring kan ChatGPT undertiden give svar, der indeholder personoplysninger om personer, hvis oplysninger optræder flere gange på den offentligt tilgængelige del af internettet (for eksempel offentlige personer). Personer i visse jurisdiktioner kan gøre indsigelse mod vores modellers behandling af deres personoplysninger eller fremsætte andre anmodninger om udøvelse af deres rettigheder som registrerede via vores privatlivsportal. Du kan også udøve disse rettigheder ved at skrive til dsar@openai.com.

For at hjælpe os med at vurdere og besvare din anmodning bedes du give tilstrækkelige oplysninger til, at vi kan forstå, hvilke personoplysninger den vedrører. Det kan være dit navn, relevante URL'er, konkrete eksempler på modellens output eller andre detaljer, der hjælper med at identificere problemet. I nogle tilfælde kan vi bede dig om at bekræfte din identitet eller bekræfte, at oplysningerne vedrører dig, før vi kan handle på din anmodning. Du kan læse mere om, hvordan du indsender disse anmodninger, herunder gode råd og hvordan anmodningerne vurderes, i vores artikel i Hjælp om fjernelse af personoplysninger fra ChatGPT. Vi vurderer anmodninger i overensstemmelse med gældende databeskyttelseslovgivning og svarer inden for de gældende lovbestemte frister.

Bemærk, at visse rettigheder i henhold til databeskyttelseslovgivningen ikke nødvendigvis er absolutte. For eksempel kan vi muligvis ikke imødekomme en anmodning, hvis vi ikke kan verificere de relevante oplysninger, hvis anmodningen ikke vedrører personoplysninger, som OpenAI behandler, hvis en undtagelse finder anvendelse, eller hvis vi har en anden lovlig grund til ikke at imødekomme den. Anmodninger vurderes fra sag til sag og kan indebære en afvejning af retten til privatliv over for andre vigtige hensyn, såsom ytringsfrihed og offentlighedens interesse.

Vi bestræber os dog på at prioritere beskyttelsen af personoplysninger og overholde al gældende databeskyttelseslovgivning. Hvis du mener, at vi ikke har håndteret et problem tilstrækkeligt, har du ret til at indgive en klage til din lokale tilsynsmyndighed.

Du kan læse mere om OpenAI's praksis vedrørende de personoplysninger, vi indsamler fra eller om dig, når du bruger vores websted, apps og tjenester, i vores privatlivspolitik.

Var denne artikel nyttig?