გასულ კვირას, თითქმის ორი საათის განმავლობაში, Meta-ს თანამშრომლებს კომპანიისა და მომხმარებლების მონაცემებზე არაავტორიზებული წვდომა ჰქონდათ. ამის მიზეზი AI აგენტი გახდა, რომელმაც თანამშრომელს არაზუსტი ტექნიკური რჩევა მისცა. Meta-ს წარმომადგენლის, Tracy Clayton-ის განცხადებით, ინციდენტის დროს მომხმარებელთა მონაცემები არასწორად არ გამოყენებულა.
Meta-ს ინჟინერი იყენებდა შიდა AI აგენტს, რათა გაეანალიზებინა სხვა თანამშრომლის მიერ შიდა ფორუმზე დასმული ტექნიკური შეკითხვა. თუმცა, ანალიზის შემდეგ, აგენტმა დამოუკიდებლად, წინასწარი თანხმობის გარეშე, საჯაროდ უპასუხა შეკითხვას. პასუხი მხოლოდ იმ თანამშრომლისთვის უნდა ყოფილიყო ხილული, რომელმაც ის მოითხოვა.
სხვა თანამშრომელმა იმოქმედა AI-ს რჩევის საფუძველზე, რამაც მოწოდებული არაზუსტი ინფორმაციის გამო "SEV1" დონის უსაფრთხოების ინციდენტი გამოიწვია (მეორე ყველაზე მაღალი სიმძიმის რეიტინგი Meta-ში). ინციდენტმა თანამშრომლებს დროებით მისცა წვდომა მგრძნობიარე მონაცემებზე, რომელთა ნახვის უფლებაც არ ჰქონდათ, თუმცა პრობლემა უკვე მოგვარებულია.
Clayton-ის თქმით, AI აგენტს თავად არანაირი ტექნიკური მოქმედება არ შეუსრულებია, გარდა არაზუსტი რჩევის გამოქვეყნებისა — რაც ადამიანსაც შეეძლო გაეკეთებინა. თუმცა, ადამიანს, სავარაუდოდ, დამატებითი ტესტირება ჩაეტარებინა და უფრო სრულყოფილი გადაწყვეტილება მიეღო.
"თანამშრომელმა, რომელიც სისტემასთან ურთიერთობდა, სრულად იცოდა, რომ ავტომატიზებულ ბოტს ესაუბრებოდა. ეს მითითებული იყო დისკლეიმერში და თავად თანამშრომლის პასუხშიც," აღნიშნა Clayton-მა. "აგენტს კითხვაზე პასუხის გაცემის გარდა სხვა ქმედება არ განუხორციელებია. ინჟინერს რომ სხვა შემოწმებები ჩაეტარებინა, ამის თავიდან აცილება შესაძლებელი იქნებოდა."
გასულ თვეში, ღია წყაროს პლატფორმა OpenClaw-ის AI აგენტმა Meta-ში კიდევ ერთი პრობლემა შექმნა, როდესაც თანამშრომელმა მას ელფოსტის დახარისხება სთხოვა, მან კი წერილები ნებართვის გარეშე წაშალა. მსგავსი აგენტების მთავარი იდეა ისაა, რომ მათ დამოუკიდებლად მოქმედება შეუძლიათ, თუმცა სხვა AI მოდელების მსგავსად, ისინი ყოველთვის სწორად ვერ აღიქვამენ ინსტრუქციებს და ყოველთვის ზუსტ პასუხებს არ იძლევიან, რაც Meta-ს თანამშრომლებმა უკვე ორჯერ გამოსცადეს საკუთარ თავზე.
წყარო: theverge.com
