Aħna nemmnu fl-iżvilupp u l-implimentazzjoni responsabbli u iterattivi bħala mezz biex tinkiseb intelliġenza artifiċjali ġenerali sigura. Nagħmlu ammont konsiderevoli ta’ ttestjar u mitigazzjoni relatati mas-sikurezza u l-allinjament qabel ma nniedu mudell għall-pubbliku, u għandna wkoll sistemi awtomatizzati u umani fis-seħħ biex jgħinu jidentifikaw kontenut problematiku li jidher fuq is-servizzi tagħna għall-individwi, bħal ChatGPT u GPTs. Niddeskrivu wħud minn dawk l-isforzi hawn taħt.
ChatGPT u ImageGen
Nużaw għodod awtomatizzati, bħal verżjoni interna tal-API /moderations tagħna, biex nidentifikaw kontenut (prompts, tweġibiet, fajls imtellgħin) li jista’ jkun ta’ ħsara jew jikser il-Politiki tal-Użu tagħna. Jekk nidentifikaw kontenut problematiku, normalment jew inwissuk li l-kontenut tiegħek jista’ jikser il-politiki tal-użu tagħna, jew inwaqqfu lill-mudell milli jwieġeb għall-prompt tiegħek. Nistgħu wkoll ma nħallux li tiġi kondiviża ċ-chat li jkun fiha l-prompt jew it-tweġiba problematika. F’għadd limitat ħafna ta’ ċirkostanzi, nistgħu wkoll nimblukkawlek il-kont minħabba mġiba gravi ferm.
Naċċettaw ukoll rapporti mingħand persuni dwar kontenut problematiku fuq ChatGPT. Nużaw taħlita ta’ sistemi awtomatizzati u tim imħarreġ ta’ esperti biex neżaminaw dawn ir-rapporti.
ChatGPT: Jekk xi ħadd jikkondividi chat li taħseb li fiha kontenut problematiku, tista’ wkoll tirrapportaha lilna.
Għal aktar dettalji dwar kif tirrapporta kontenut direttament f’ChatGPT, ara dan l-artiklu.
GPTs
Nużaw ukoll għodod awtomatizzati bħall-/moderation API tagħna biex naraw jekk GPT huwiex potenzjalment problematiku. Jekk nidentifikaw kontenut problematiku assoċjat mal-GPT, nieħdu azzjoni, bħal li nipprevjenu li jitqassam. Il-bennej jista’ jeditja l-konfigurazzjoni tal-GPT jew tal-API biex ineħħi l-kontenut problematiku, jew jista’ jappella d-deċiżjoni permezz ta’ proċess fil-prodott. F’sett limitat ħafna ta’ ċirkostanzi, nistgħu wkoll nibblukkaw il-kont tal-bennej għal imġiba partikolarment gravi.
Naċċettaw ukoll rapporti minn nies dwar GPTs problematiċi. Jekk tara GPT li temmen li qed jikser il-politiki tal-użu tagħna jew b’xi mod ieħor juri kontenut problematiku, tista’ wkoll tirrapportah lilna. Nużaw taħlita ta’ sistemi awtomatizzati u tim imħarreġ ta’ esperti biex nirrevedu dawn ir-rapporti.