Tikime atsakingu, iteratyviu kūrimu ir diegimu kaip būdu siekti saugaus bendrojo dirbtinio intelekto. Dar prieš pristatydami modelį visuomenei atliekame daug saugos ir suderinimo testavimo bei rizikos mažinimo darbų, taip pat turime automatizuotas ir žmonių valdomas sistemas, padedančias aptikti probleminį turinį, kuris pasirodo mūsų individualiems naudotojams skirtose paslaugose, pvz., ChatGPT ir GPTs. Kai kurias iš šių pastangų aprašome toliau.
ChatGPT ir ImageGen
Naudojame automatines priemones, pavyzdžiui, vidinę mūsų /moderations API versiją, kad aptiktume turinį (užklausas, atsakymus ir įkeltus failus), kuris gali būti žalingas arba pažeisti mūsų Naudojimo taisykles. Aptikę probleminį turinį, paprastai įspėsime, kad jūsų turinys gali pažeisti mūsų Naudojimo taisykles, arba neleisime modeliui atsakyti į jūsų užklausą. Taip pat galime neleisti bendrinti pokalbio, kuriame yra probleminė užklausa ar atsakymas. Itin retais atvejais už ypač šiurkščius pažeidimus taip pat galime užblokuoti jūsų paskyrą.
Taip pat priimame žmonių pranešimus apie probleminį ChatGPT turinį. Šiuos pranešimus tikriname naudodami automatines sistemas ir pasitelkdami apmokytų ekspertų komandą.
ChatGPT: jei kas nors pasidalijo pokalbiu, kuriame, jūsų manymu, yra probleminio turinio, galite apie jį mums pranešti.
Daugiau informacijos, kaip pranešti apie turinį tiesiogiai ChatGPT, rasite šiame straipsnyje.
GPTs
Taip pat naudojame automatizuotus įrankius, pvz., mūsų /moderation API, kad nustatytume, ar GPT gali būti probleminis. Jei aptiksime su GPT susijusį probleminį turinį, imsimės veiksmų, pavyzdžiui, neleisime jo platinti. Kūrėjas gali redaguoti GPT arba API konfigūraciją, kad pašalintų probleminį turinį, arba apskųsti sprendimą per produkto sąsają. Itin ribotomis aplinkybėmis taip pat galime užblokuoti kūrėjo paskyrą už šiurkštų elgesį.
Taip pat priimame žmonių pateiktus pranešimus apie probleminius GPTs. Jei matote GPT, kuris, jūsų manymu, pažeidžia mūsų naudojimo taisykles arba kuriame kitaip atsispindi probleminis turinys, taip pat galite pranešti apie jį mums. Šiems pranešimams peržiūrėti naudojame automatizuotų sistemų ir apmokytos ekspertų komandos derinį.