Usume, et vastutustundlik, iteratiivne arendus ja juurutamine aitab saavutada turvalise üldise tehisintellekti. Enne kui teeme mudeli avalikkusele kättesaadavaks, viime läbi märkimisväärsel hulgal ohutuse ja joondamise testimist ning leevendustööd, samuti on meil kasutusel automatiseeritud ja inimeste hallatavad süsteemid, mis aitavad tuvastada probleemset sisu, mis ilmub meie eraisikutele mõeldud teenustes, nagu ChatGPT ja GPT-d. Allpool kirjeldame mõnda neist jõupingutustest.
ChatGPT ja ChatGPT Images
Kasutame automatiseeritud tööriistu, näiteks oma /moderations API siseversiooni, et tuvastada sisu (viibad, vastused, üleslaaditud failid), mis võib olla kahjulik või rikkuda meie kasutusreegleid. Kui tuvastame probleemse sisu, hoiatame sind tavaliselt, et sinu sisu võib rikkuda meie kasutusreegleid, või takistame mudelil sinu viibale vastamast. Samuti võime takistada probleemset viipa või vastust sisaldava vestluse jagamist. Väga üksikutel juhtudel võime eriti lubamatu käitumise tõttu ka sinu konto blokeerida.
Võtame vastu ka inimeste teateid ChatGPT-s leiduva probleemse sisu kohta. Nende teadete läbivaatamiseks kasutame nii automatiseeritud süsteeme kui ka vastava väljaõppega ekspertide meeskonda.
ChatGPT: kui keegi jagab vestlust, mis sinu arvates sisaldab probleemset sisu, saad ka meile sellest teatada.
Lisateavet selle kohta, kuidas sisust otse ChatGPT-s teatada, leiad artiklist „Sisust teatamine ChatGPT-s ja OpenAI platvormidel“.
GPT-d
Kasutame ka automatiseeritud tööriistu, näiteks oma /moderations API-t, et kontrollida, kas GPT võib olla probleemne. Kui tuvastame GPT-ga seotud probleemse sisu, võtame meetmeid, näiteks takistame selle GPT levitamist. Looja saab probleemse sisu eemaldamiseks muuta GPT või API seadistust või esitada otsuse kohta vaide tootesisese menetluse kaudu. Väga üksikutel juhtudel võime eriti lubamatu käitumise tõttu ka looja konto blokeerida.
Võtame vastu ka inimeste teateid probleemsete GPT-de kohta. Kui märkad GPT-d, mis sinu arvates rikub meie kasutusreegleid või sisaldab muul moel probleemset sisu, saad ka meile sellest teatada. Nende teadete läbivaatamiseks kasutame nii automatiseeritud süsteeme kui ka vastava väljaõppega ekspertide meeskonda.