მომატებული რისკის ნიშნები

AI პროდუქტები შეიძლება უფრო სასარგებლო იყოს, როცა თქვენს აპებსა და ვებს უკავშირდება, და ჩვენ მნიშვნელოვანი ინვესტიცია ჩავდეთ დაკავშირებული მონაცემების დაცვაში ისეთი რისკებისგან, როგორიცაა პრომპტ ინიექციის შეტევები. ჩვენს პროდუქტებში უკვე მოქმედებს მრავალი დამცავი მექანიზმი მოდელის, პროდუქტისა და სისტემის დონეებზე. ეს მოიცავს სენდბოქსინგს, URL-ზე დაფუძნებული მონაცემების ექსფილტრაციისგან დაცვას, მონიტორინგსა და აღსრულებას, ასევე საწარმოო კონტროლებს, როგორიცაა როლებზე დაფუძნებული წვდომა და აუდიტის ჟურნალები.

ამავდროულად, ქსელთან დაკავშირებული ზოგიერთი შესაძლებლობა წარმოშობს ახალ რისკებს, განსაკუთრებით პრომპტ ინიექციებს, რომლებიც ინდუსტრიის უსაფრთხოებისა და დაცულობის შემარბილებელი ზომებით ჯერ სრულად არ არის მოგვარებული. ზოგიერთ მომხმარებელს შეიძლება მისაღებად მიაჩნდეს ამ რისკების აღება, და ჩვენ გვჯერა, რომ მნიშვნელოვანია, მომხმარებლებს ჰქონდეთ შესაძლებლობა გადაწყვიტონ, გამოიყენონ თუ არა ისინი და როგორ, განსაკუთრებით პირად მონაცემებთან მუშაობისას.

ასეთი რისკები უფრო ადვილად გასაგები რომ იყოს, მიზნად ვისახავთ ამ რისკის შესახებ ინფორმაციის მიწოდებას ერთიანი „ამაღლებული რისკის“ ეტიკეტის, ტერმინოლოგიისა და ხატულის (ფარის შიგნით ძახილის ნიშანი) გამოყენებით, ისე, რომ ეს გასაგები იყოს თითოეული ფუნქციისა და პროდუქტისთვის. ეს ეტიკეტირება არსებული დაცვების გარდა მომხმარებლებს დამატებით გამჭვირვალობასა და კონტროლს აძლევს.

შენიშვნა: „ამაღლებული რისკის“ ეტიკეტით მონიშნული ფუნქციები შემოთავაზებულია არჩევითად და ადრეული წვდომის საფუძველზე, იმ სტანდარტული განცხადებებისა და გარანტიების ფარგლებს გარეთ, რომლებსაც ვიძლევით ჩვენი ზოგადად ხელმისაწვდომი სერვისებისთვის. მომხმარებლებმა ეს ფუნქციები მხოლოდ მაშინ უნდა ჩართონ, თუ ესმით დამატებითი რისკები და მათ მისაღებად მიიჩნევენ.

რას ნიშნავს „მომატებული რისკი“?

როდესაც შესაძლებლობას ახლავს ნიშანი „მომატებული რისკი“, ეს მიუთითებს, რომ ფუნქციის გამოყენება გარკვეულ რისკებს წარმოშობს, რომლებსაც ინდუსტრიაში არსებული უსაფრთხოებისა და დაცვის ზომები ჯერ სრულად ვერ უმკლავდება. ამ ნიშნის დანახვისას, როგორც წესი, მოცემულია ინფორმაცია ფუნქციის გამოყენებასთან დაკავშირებული რისკებისა და გასათვალისწინებელი საკითხების შესახებ — ხშირად ბმულით „შეიტყვეთ მეტი“.

მაგალითად, ჩვენს პროგრამირების ასისტენტ Codex-ს დეველოპერებმა შეიძლება ქსელზე წვდომა მიანიჭონ, რათა მან ინტერნეტში ისეთი მოქმედებები შეასრულოს, როგორიცაა დოკუმენტაციის მოძიება. ეს შესაძლებლობა ასევე ზრდის პრომპტ ინიექციის შეტევების რისკს. ამიტომ შესაბამისი პარამეტრების ეკრანზე ნაჩვენებია ნიშანი „მომატებული რისკი“ და მკაფიოდ არის განმარტებული, რა იცვლება, რა რისკები შეიძლება წარმოიშვას და როდის არის ასეთი წვდომა მიზანშეწონილი.

ასეთი ნიშნით მონიშნული ფუნქციების ყველაზე გავრცელებული მომატებული რისკია პრომპტ ინიექციის შეტევები.

დაცვის ზომების გაუმჯობესების შემდეგ შეიძლება ნიშანი „მომატებული რისკი“ მოვხსნათ, თუ დავადგენთ, რომ მომხმარებლებისთვის რისკები გონივრულად არის შემცირებული.