Usume, et vastutustundlik, iteratiivne arendus ja juurutamine aitab saavutada turvalise üldise tehisintellekti. Enne kui teeme mudeli avalikkusele kättesaadavaks, viime läbi märkimisväärsel hulgal ohutuse ja joondamise testimist ning leevendustööd, samuti on meil kasutusel automatiseeritud ja inimeste hallatavad süsteemid, mis aitavad tuvastada probleemset sisu, mis ilmub meie eraisikutele mõeldud teenustes, nagu ChatGPT ja GPT-d. Allpool kirjeldame mõnda neist jõupingutustest.
ChatGPT ja ImageGen
Kasutame automatiseeritud tööriistu, näiteks oma /moderations API sisemist versiooni, et tuvastada sisu (viipe, vastuseid ja üleslaaditud faile), mis võib olla kahjulik või rikkuda meie kasutuseeskirju. Kui tuvastame probleemse sisu, hoiatame teid tavaliselt, et teie sisu võib rikkuda meie kasutuseeskirju, või takistame mudelil teie viibale vastamast. Samuti võime takistada probleemset viipa või vastust sisaldava vestluse jagamist. Väga üksikutel juhtudel võime ränga üleastumise tõttu ka teie konto blokeerida.
Samuti võtame vastu inimeste teateid ChatGPT probleemse sisu kohta. Nende teadete läbivaatamiseks kasutame automatiseeritud süsteeme ja koolitatud ekspertide meeskonda.
ChatGPT: kui keegi jagab vestlust, mis sisaldab teie arvates probleemset sisu, saate sellest ka meile teatada.
Lisateavet selle kohta, kuidas sisust otse ChatGPT-s teatada, leiate sellest artiklist.
GPT-d
Kasutame ka automatiseeritud tööriistu, näiteks meie /moderation API-t, et näha, kas GPT võib olla probleemne. Kui tuvastame GPT-ga seotud probleemse sisu, võtame meetmeid, näiteks takistame selle levitamist. Looja saab muuta GPT või API konfiguratsiooni, et eemaldada probleemne sisu, või otsuse tootesisese protsessi kaudu vaidlustada. Väga piiratud juhtudel võime ränga käitumise eest blokeerida ka looja konto.
Võtame vastu ka inimeste teateid probleemsete GPT-de kohta. Kui näete GPT-d, mis teie arvates rikub meie kasutuspõhimõtteid või sisaldab muul viisil probleemset sisu, saate sellest ka meile teatada. Nende teadete läbivaatamiseks kasutame nii automatiseeritud süsteeme kui ka koolitatud ekspertide meeskonda.