Uskomme vastuulliseen, vaiheittaiseen kehitykseen ja käyttöönottoon keinona saavuttaa turvallinen yleinen tekoäly. Teemme huomattavan määrän turvallisuus- ja yhdenmukaistamistyöhön liittyvää testausta ja riskien lieventämistä ennen kuin tuomme mallin yleisön saataville, ja meillä on myös automatisoituja ja ihmisten käyttämiä järjestelmiä, jotka auttavat havaitsemaan ongelmallisen sisällön yksityishenkilöille tarkoitetuissa palveluissamme, kuten ChatGPT:ssä ja GPT:issä. Kuvaamme joitakin näistä toimista alla.
ChatGPT, ImageGen ja SORA
Käytämme automatisoituja työkaluja, kuten sisäistä versiota /moderations API:stamme, havaitaksemme sisältöä (kehotteita, täydennyksiä, latauksia), joka voi olla haitallista tai rikkoa käyttökäytäntöjämme. Jos havaitsemme ongelmallista sisältöä, yleensä joko varoitamme sinua siitä, että sisältösi saattaa rikkoa käyttökäytäntöjämme, tai estämme mallia vastaamasta kehotteeseesi. Voimme myös estää ongelmallisen kehotteen tai täydennyksen sisältävän keskustelun jakamisen. Hyvin rajallisissa tilanteissa voimme myös sulkea tilisi vakavan väärinkäytöksen vuoksi.
Otamme vastaan myös ihmisten tekemiä ilmoituksia ChatGPT:n ja SORAn ongelmallisesta sisällöstä. Käytämme näiden ilmoitusten tarkistamiseen automatisoitujen järjestelmien ja koulutetun asiantuntijatiimin yhdistelmää.
ChatGPT: Jos joku jakaa keskustelun, jonka uskot sisältävän ongelmallista sisältöä, voit myös ilmoittaa siitä meille.
SORA: Jos näet syötteessäsi videon tai kuvan, jonka uskot sisältävän ongelmallista sisältöä, voit ilmoittaa siitä meille.
Lisätietoja sisällöstä ilmoittamisesta suoraan ChatGPT:ssä tai SORAssa on tässä artikkelissa.
GPT:t
Käytämme myös automatisoituja työkaluja, kuten /moderation API:amme, arvioidaksemme, onko GPT mahdollisesti ongelmallinen. Jos havaitsemme GPT:hen liittyvää ongelmallista sisältöä, ryhdymme toimiin, kuten estämme sen jakelun. Rakentaja voi muokata GPT:n tai API:n määrityksiä poistaakseen ongelmallisen sisällön tai valittaa päätöksestä tuotteen sisäisen työnkulun kautta. Hyvin rajallisissa tilanteissa voimme myös sulkea rakentajan tilin vakavan väärinkäytöksen vuoksi.
Otamme vastaan myös ihmisten tekemiä ilmoituksia ongelmallisista GPT:istä. Jos näet GPT:n, jonka uskot rikkovan käyttökäytäntöjämme tai muuten edustavan ongelmallista sisältöä, voit myös ilmoittaa siitä meille. Käytämme näiden ilmoitusten tarkistamiseen automatisoitujen järjestelmien ja koulutetun asiantuntijatiimin yhdistelmää.