Meta-ს კონტრაქტორებს დავალებული ჰქონდათ, ინტერნეტში არასრულწლოვნებად გასაღებულიყვნენ და კონკურენტი ჩატბოტების (ChatGPT, Gemini, Character.AI) რეაქციები შეემოწმებინათ ისეთ მგრძნობიარე თემებზე, როგორიცაა სუიციდი, ნარკოტიკები, კვებითი აშლილობები და სექსუალური ხასიათის შინაარსი. პროექტი, რომელიც შიდა დოკუმენტებში „Cannes“-ის სახელითაა ცნობილი, მიზნად ისახავდა ჩატბოტების უსაფრთხოების სისტემების მაქსიმალურ გამოცდას.
კონტრაქტორები ქმნიდნენ ყალბ ანგარიშებს და აგზავნიდნენ პროვოკაციულ შეტყობინებებს, მათ შორის ფოტომასალას, რომელიც შეიცავდა დანებს, აბებსა და სხვადასხვა სახის მუქარის შემცველ კონტენტს. პროექტის ფარგლებში, მხოლოდ 2025 წლის აგვისტოში, 45 000-ზე მეტი მსგავსი მოთხოვნა დამუშავდა. კომპანიები, რომელთა პროდუქტებსაც ტესტავდნენ, ამ პროცესის შესახებ ინფორმირებულნი არ იყვნენ.
Meta-ს წარმომადგენლები აცხადებენ, რომ ეს არის „ინდუსტრიული სტანდარტის შესაბამისი უსაფრთხოების ტესტირება“, რომელიც მიზნად ისახავს AI სისტემების გაუმჯობესებას. თუმცა, ექსპერტები და კონკურენტი კომპანიები ამ მიდგომას აკრიტიკებენ. Humane Intelligence-ის დამფუძნებელი რუმან ჩოუდჰური აღნიშნავს, რომ არასრულწლოვნებად პოზირება და კონკურენტების სისტემების ფარული „გატეხვა“ სცილდება სტანდარტული უსაფრთხოების შეფასების ფარგლებს და ქმნის „ეთიკურ ნაცრისფერ ზონას“, სადაც უსაფრთხოება შესაძლოა კონკურენტული უპირატესობის მოპოვების საბაბად გამოიყენებოდეს.
აღნიშნული ქმედებები პირდაპირ ეწინააღმდეგება OpenAI-ის, Google-ისა და Character.AI-ის მომსახურების პირობებს, რომლებიც კრძალავენ უსაფრთხოების ფილტრების გვერდის ავლის მცდელობებს. მიუხედავად იმისა, რომ Meta უარყოფს კონკურენტების მონაცემების საკუთარი მოდელების გასაუმჯობესებლად გამოყენებას, პროექტის მასშტაბი და მეთოდოლოგია კვლავ რჩება კრიტიკის საგნად ტექნოლოგიურ სექტორში.
წყარო: wired.com
