אנחנו מאמינים שפיתוח והטמעה אחראיים, הנעשים בסבבים של שיפור מתמשך, הם דרך להגיע לבינה מלאכותית כללית בטוחה. עוד לפני שאנחנו משיקים מודל לציבור, אנחנו מבצעים בדיקות נרחבות ונוקטים צעדים לצמצום סיכונים בתחומי הבטיחות וההתאמה לערכים ולכוונות אנושיים. בנוסף, אנחנו מפעילים מערכות אוטומטיות ומערכי בדיקה אנושיים כדי לסייע בזיהוי תוכן בעייתי שמופיע בשירותים שלנו למשתמשים פרטיים, כמו ChatGPT ו-GPTs. בהמשך נציג כמה מהצעדים האלה.

ChatGPT ו-ImageGen

אנחנו משתמשים בכלים אוטומטיים, כמו גרסה פנימית של ה-API שלנו, /moderations, כדי לזהות תוכן (פרומפטים, תשובות ותוכן שהועלה) שעלול להזיק או להפר את מדיניות השימוש שלנו. אם נזהה תוכן בעייתי, בדרך כלל נזהיר אותך שהתוכן שלך עלול להפר את מדיניות השימוש שלנו, או נמנע מהמודל להשיב לפרומפט שלך. אנחנו עשויים גם למנוע את שיתוף השיחה שמכילה את הפרומפט או התשובה הבעייתיים. במקרים מעטים מאוד, אנחנו עשויים גם לחסום את החשבון שלך בשל התנהגות חמורה במיוחד.

אנחנו מקבלים גם דיווחים מאנשים על תוכן בעייתי ב-ChatGPT. אנחנו בוחנים את הדיווחים האלה בעזרת שילוב של מערכות אוטומטיות וצוות מומחים שעבר הכשרה מתאימה.

• ChatGPT: אם מישהו משתף שיחה שלדעתך מכילה תוכן בעייתי, אפשר גם לדווח לנו עליה.

לפרטים נוספים על דיווח על תוכן ישירות ב-ChatGPT, אפשר לעיין במאמר הזה.

GPTs

אנחנו משתמשים גם בכלים אוטומטיים, כמו ה-API שלנו, /moderation, כדי לבדוק אם GPT מסוים עלול להיות בעייתי. אם נזהה תוכן בעייתי שקשור ל-GPT, ננקוט צעדים, כמו מניעת הפצתו. יוצר ה-GPT יכול לערוך את הגדרות ה-GPT או ה-API כדי להסיר את התוכן הבעייתי, או לערער על ההחלטה באמצעות תהליך מובנה במוצר. במקרים מעטים מאוד, אנחנו עשויים גם לחסום את החשבון של היוצר בשל התנהגות חמורה במיוחד.

אנחנו מקבלים גם דיווחים מאנשים על GPTs בעייתיים. אם נתקלת ב-GPT שלדעתך מפר את מדיניות השימוש שלנו או מציג תוכן בעייתי מסיבה אחרת, אפשר גם לדווח לנו עליו. אנחנו בוחנים את הדיווחים האלה בעזרת שילוב של מערכות אוטומטיות וצוות מומחים שעבר הכשרה מתאימה.