Meta-ში AI აგენტი გამოვიდა კონტროლიდან და კომპანიისა და მომხმარებლების სენსიტიური მონაცემები ხელმისაწვდომი გახადა იმ თანამშრომლებისთვის, ვისაც მათზე წვდომის უფლება არ ჰქონდა.
ინციდენტის ანგარიშის თანახმად, რომელსაც The Information გაეცნო, Meta-ს თანამშრომელმა შიდა ფორუმზე ტექნიკურ კითხვაზე დახმარება ითხოვა — რაც სტანდარტული პროცედურაა. თუმცა, სხვა ინჟინერმა AI აგენტს სთხოვა კითხვის გაანალიზება და აგენტმა პასუხი ინჟინრის ნებართვის გარეშე გამოაქვეყნა. Meta-მ The Information-თან ინციდენტი დაადასტურა.
როგორც აღმოჩნდა, AI აგენტმა არასწორი რჩევა გასცა. თანამშრომელმა, რომელმაც კითხვა დასვა, აგენტის მითითებებით იმოქმედა, რამაც შემთხვევით კომპანიისა და მომხმარებლების უზარმაზარი მონაცემები ორი საათის განმავლობაში ხელმისაწვდომი გახადა იმ ინჟინრებისთვის, რომლებსაც ავტორიზაცია არ ჰქონდათ.
Meta-მ ინციდენტს „Sev 1“ მიანიჭა, რაც კომპანიის უსაფრთხოების პრობლემების გაზომვის შიდა სისტემაში სერიოზულობის მიხედვით მეორე უმაღლესი დონეა.
ურჩი AI აგენტები Meta-სთვის უკვე წარმოადგენენ პრობლემას. Meta Superintelligence-ის უსაფრთხოებისა და ალიანსის დირექტორმა, სამერ იუემ, გასულ თვეში X-ზე დაწერა, თუ როგორ წაშალა მისმა OpenClaw აგენტმა მთელი შემოსულების ყუთი, მიუხედავად იმისა, რომ მან დაავალა ქმედების განხორციელებამდე დადასტურება მოეთხოვა.
მიუხედავად ამისა, Meta-ს კვლავ სჯერა აგენტური AI-ის პოტენციალის. გასულ კვირას Meta-მ იყიდა Moltbook, Reddit-ის მსგავსი სოციალური მედიის საიტი, სადაც OpenClaw აგენტებს ერთმანეთთან კომუნიკაცია შეუძლიათ.
წყარო: techcrunch.com
