Crediamo nello sviluppo e nella distribuzione responsabili e iterativi come percorso verso un’intelligenza artificiale generale sicura. Effettuiamo numerosi test di sicurezza e allineamento e attività di mitigazione prima di rendere un modello disponibile al pubblico e disponiamo inoltre di sistemi automatizzati e umani per rilevare contenuti problematici che possono comparire nei nostri servizi per utenti, tra cui ChatGPT e i GPT. Di seguito illustriamo alcune di queste iniziative.

ChatGPT e ChatGPT Immagini

Utilizziamo strumenti automatizzati, come una versione interna della nostra API di moderazione, per rilevare contenuti (prompt, completamenti, caricamenti) che potrebbero essere dannosi o violare le nostre Politiche di utilizzo. Se rileviamo contenuti problematici, di norma ti avviseremo che il tuo contenuto potrebbe violare le nostre politiche di utilizzo, oppure impediremo al modello dal rispondere al tuo prompt. Potremmo anche impedire la condivisione della chat contenente il prompt o il completamento problematico. In un numero molto limitato di circostanze, potremmo anche sospendere il tuo account in caso di comportamenti gravi.

Accettiamo anche segnalazioni da parte di utenti umani relative a contenuti problematici su ChatGPT. Utilizziamo una combinazione di sistemi automatizzati e un team di esperti qualificati per prendere in esame queste segnalazioni.

• ChatGPT: se qualcuno condivide una chat che ritieni contenga contenuti problematici, puoi anche segnalarcela.

Per maggiori dettagli su come segnalare contenuti direttamente in ChatGPT, consulta: Segnalazione di contenuti su ChatGPT e sulle piattaforme OpenAI.

GPT

Utilizziamo anche strumenti automatizzati, come la nostra API di moderazione, per verificare se un GPT è potenzialmente problematico. Interveniamo se rileviamo contenuti problematici associati al GPT, ad esempio impedendone la distribuzione. Il creatore può modificare la configurazione del GPT o dell'API per rimuovere i contenuti problematici oppure può presentare ricorso contro la decisione tramite un flusso integrato nel prodotto. In un numero di circostanze molto limitato, potremmo anche sospendere l'account del creatore in caso di comportamenti gravi.

Accettiamo anche le segnalazioni umane dei GPT problematici. Se vedi un GPT che ritieni violi le nostre politiche di utilizzo o presenti contenuti problematici, puoi anche segnalarcelo. Utilizziamo una combinazione di sistemi automatizzati e un team di esperti qualificati per prendere in esame queste segnalazioni.