Πιστεύουμε στην υπεύθυνη, επαναληπτική ανάπτυξη και διάθεση ως μέσο για την επίτευξη ασφαλούς τεχνητής γενικής νοημοσύνης. Πραγματοποιούμε σημαντικό όγκο δοκιμών και μετριασμού ως προς την ασφάλεια και την ευθυγράμμιση πριν διαθέσουμε οποιοδήποτε μοντέλο στο κοινό, ενώ διαθέτουμε επίσης αυτοματοποιημένα και ανθρώπινα συστήματα για να βοηθούν στον εντοπισμό προβληματικού περιεχομένου που εμφανίζεται στις υπηρεσίες μας για ιδιώτες, όπως το ChatGPT και τα GPTs. Παραθέτουμε ορισμένες από αυτές τις προσπάθειες παρακάτω.
ChatGPT και ChatGPT Images
Χρησιμοποιούμε αυτοματοποιημένα εργαλεία, όπως μια εσωτερική έκδοση του /moderations API μας, για να εντοπίζουμε περιεχόμενο (προτροπές, απαντήσεις, μεταφορτωμένα αρχεία) που ενδέχεται να είναι επιβλαβές ή να παραβιάζει τις Πολιτικές χρήσης μας. Αν εντοπίσουμε προβληματικό περιεχόμενο, συνήθως είτε σας προειδοποιούμε ότι το περιεχόμενό σας ενδέχεται να παραβιάζει τις πολιτικές χρήσης μας είτε εμποδίζουμε το μοντέλο να απαντήσει στην προτροπή σας. Ενδέχεται επίσης να εμποδίσουμε την κοινοποίηση της συνομιλίας που περιέχει την προβληματική προτροπή ή απάντηση. Σε πολύ περιορισμένες περιπτώσεις, ενδέχεται επίσης να αποκλείσουμε τον λογαριασμό σας λόγω σοβαρά ανάρμοστης συμπεριφοράς.
Δεχόμαστε επίσης αναφορές από χρήστες για προβληματικό περιεχόμενο στο ChatGPT. Για την εξέταση αυτών των αναφορών χρησιμοποιούμε αυτοματοποιημένα συστήματα σε συνδυασμό με μια εκπαιδευμένη ομάδα ειδικών.
ChatGPT: Αν κάποιος κοινοποιήσει μια συνομιλία που πιστεύετε ότι περιέχει προβληματικό περιεχόμενο, μπορείτε επίσης να μας την αναφέρετε.
Για περισσότερες λεπτομέρειες σχετικά με την αναφορά περιεχομένου απευθείας στο ChatGPT, δείτε: Αναφορά περιεχομένου στο ChatGPT και στις πλατφόρμες της OpenAI.
GPTs
Χρησιμοποιούμε επίσης αυτοματοποιημένα εργαλεία, όπως το /moderations API μας, για να ελέγχουμε αν ένα GPT είναι δυνητικά προβληματικό. Αν εντοπίσουμε προβληματικό περιεχόμενο που σχετίζεται με το GPT, λαμβάνουμε μέτρα, όπως η παρεμπόδιση της διανομής του. Ο δημιουργός μπορεί να επεξεργαστεί τις ρυθμίσεις του GPT ή του API για να αφαιρέσει το προβληματικό περιεχόμενο ή να υποβάλει ένσταση κατά της απόφασης μέσω μιας διαδικασίας εντός του προϊόντος. Σε πολύ περιορισμένες περιπτώσεις, ενδέχεται επίσης να αποκλείσουμε τον λογαριασμό του δημιουργού λόγω σοβαρά ανάρμοστης συμπεριφοράς.
Δεχόμαστε επίσης αναφορές από χρήστες για προβληματικά GPTs. Αν δείτε ένα GPT που πιστεύετε ότι παραβιάζει τις πολιτικές χρήσης μας ή περιέχει με άλλον τρόπο προβληματικό περιεχόμενο, μπορείτε επίσης να μας το αναφέρετε. Για την εξέταση αυτών των αναφορών χρησιμοποιούμε αυτοματοποιημένα συστήματα σε συνδυασμό με μια εκπαιδευμένη ομάδα ειδικών.