Verjamemo v odgovoren, iterativen razvoj in uvajanje kot sredstvo za doseganje varne splošne umetne inteligence. Preden model sploh predstavimo javnosti, izvedemo veliko testiranja in blaženja tveganj na področju varnosti in usklajevanja, vzpostavljene pa imamo tudi avtomatizirane in človeške sisteme, ki pomagajo zaznavati problematično vsebino, ki se pojavi v naših storitvah za posameznike, kot so ChatGPT in GPT-ji. Nekatera od teh prizadevanj opisujemo spodaj.
ChatGPT in ImageGen
Za odkrivanje vsebin (pozivov, odgovorov in naloženih datotek), ki bi lahko bile škodljive ali kršile naše pravilnike o uporabi, uporabljamo avtomatizirana orodja, kot je interna različica našega vmesnika /moderations API. Če zaznamo sporno vsebino, vas običajno opozorimo, da morda krši naše pravilnike o uporabi, ali pa modelu preprečimo, da bi se odzval na vaš poziv. Prav tako lahko preprečimo deljenje klepeta, ki vsebuje sporni poziv ali odgovor. V zelo redkih primerih lahko zaradi posebej hudih kršitev tudi ukinemo vaš račun.
Sprejemamo tudi prijave spornih vsebin v ChatGPT, ki jih pošljejo uporabniki. Te prijave pregledujemo s kombinacijo avtomatiziranih sistemov in usposobljene ekipe strokovnjakov.
ChatGPT: Če nekdo deli klepet, za katerega menite, da vsebuje sporno vsebino, nam ga lahko tudi prijavite.
Več podrobnosti o prijavi vsebine neposredno v ChatGPT najdete v tem članku.
GPT-ji
Uporabljamo tudi avtomatizirana orodja, kot je naš API /moderation, da ugotovimo, ali je GPT lahko problematičen. Če zaznamo problematično vsebino, povezano z GPT-jem, bomo ukrepali, na primer preprečili njegovo distribucijo. Ustvarjalec lahko uredi konfiguracijo GPT-ja ali API-ja, da odstrani problematično vsebino, ali pa se zoper odločitev pritoži prek postopka v izdelku. V zelo omejenem naboru okoliščin lahko zaradi posebej hudega ravnanja tudi blokiramo račun ustvarjalca.
Sprejemamo tudi prijave problematičnih GPT-jev. Če opazite GPT, za katerega menite, da krši naše pravilnike uporabe ali kako drugače kaže problematično vsebino, nam ga lahko tudi prijavite. Za pregled teh prijav uporabljamo kombinacijo avtomatiziranih sistemov in usposobljene ekipe strokovnjakov.