Creiem en el desenvolupament i el desplegament responsables i iteratius com a mitjà per aconseguir una intel·ligència artificial general segura. Fem una quantitat considerable de proves i mitigació en matèria de seguretat i alineació abans de llançar qualsevol model al públic, i també disposem de sistemes automatitzats i humans per ajudar a detectar contingut problemàtic que apareix als nostres serveis per a particulars, com ara ChatGPT i els GPTs. A continuació, descrivim alguns d’aquests esforços.
ChatGPT i Imatges de ChatGPT
Fem servir eines automatitzades, com ara una versió interna de la nostra API /moderations, per detectar contingut (indicacions, respostes i fitxers pujats) que pugui ser perjudicial o infringir les nostres polítiques d'ús. Si detectem contingut problemàtic, normalment t'avisarem que el teu contingut pot infringir les nostres polítiques d'ús o impedirem que el model respongui a la teva indicació. També podem impedir que es comparteixi el xat que conté la indicació o la resposta problemàtica. En casos molt excepcionals, també podem bloquejar el teu compte per un comportament especialment greu.
També acceptem denúncies d'usuaris sobre contingut problemàtic a ChatGPT. Per revisar aquestes denúncies, combinem sistemes automatitzats amb un equip d'experts formats per a aquesta tasca.
ChatGPT: si algú comparteix un xat que creus que conté contingut problemàtic, també ens el pots denunciar.
Per obtenir més informació sobre com denunciar contingut directament a ChatGPT, consulta: Com denunciar contingut a ChatGPT i a les plataformes d'OpenAI.
GPT
També fem servir eines automatitzades, com ara la nostra API /moderations, per comprovar si un GPT pot ser problemàtic. Si detectem contingut problemàtic associat al GPT, prendrem mesures, com ara impedir-ne la distribució. El creador pot editar la configuració del GPT o de l'API per eliminar el contingut problemàtic, o bé recórrer contra la decisió mitjançant un procés integrat al producte. En casos molt excepcionals, també podem bloquejar el compte del creador per un comportament especialment greu.
També acceptem denúncies d'usuaris sobre GPT problemàtics. Si trobes un GPT que creus que infringeix les nostres polítiques d'ús o que presenta contingut problemàtic per altres motius, també ens el pots denunciar. Per revisar aquestes denúncies, combinem sistemes automatitzats amb un equip d'experts formats per a aquesta tasca.