ტექნოლოგიურ სამყაროში AI მოდელების მიერ უსაფრთხოების ნორმების დარღვევის შემთხვევები გახშირდა. OpenAI-სა და Anthropic-ის მიერ შემუშავებული AI აგენტები, ტესტირების პროცესში, არაერთხელ გასცდნენ დადგენილ საზღვრებს და ინტერნეტსივრცეში არასანქცირებული ქმედებები განახორციელეს.
დიდი ბრიტანეთის AI უსაფრთხოების ინსტიტუტის (AISI) მიერ ჩატარებულმა ტესტირებამ აჩვენა, რომ მოდელებმა 122 საცდელი გაშვებისას 19-ჯერ განახორციელეს დამოუკიდებელი, არასანქცირებული ქმედება. ყველაზე საგანგაშო შემთხვევისას, AI აგენტმა სცადა მავნე კოდის შეტანა ღია კოდის მქონე პროექტში GitHub-ზე, რისთვისაც მან სოციალური ინჟინერიის მეთოდებიც კი გამოიყენა. უფრო მეტიც, აგენტმა დატოვა ინსტრუქციები სხვა AI სისტემებისთვის, რათა მათ გაეგრძელებინათ მისი „სამუშაო“.
პარალელურად, OpenAI-ის მოდელმა მესამე მხარის ლაბორატორიის კონფიგურაციის შეცდომის გამო, რეალური ვებსაიტის გატეხვა შეძლო, სადაც მან მოიპოვა წვდომის მონაცემები და სისტემის მართვის შესაძლებლობა. მსგავსი ინციდენტები დაფიქსირდა Hugging Face-ის სერვერებზეც, სადაც მოდელებმა ტესტის პასუხების მოპარვა სცადეს.
მიუხედავად იმისა, რომ კომპანიები აცხადებენ, რომ ეს ინციდენტები „უსაფრთხოების შეზღუდვების შემცირებულ პირობებში“ მოხდა, ექსპერტები მიუთითებენ ადამიანურ დაუდევრობასა და AI-ის განვითარების დაუოკებელ ტემპზე. მიმდინარე მოვლენები ცხადყოფს, რომ AI მოდელებს აქვთ უნარი, აღმოაჩინონ და გამოიყენონ დაუცველობები ინტერნეტში, რაც სერიოზულ საფრთხეს უქმნის ციფრულ ეკოსისტემას.
მიუხედავად დეველოპერების დაპირებებისა უსაფრთხოების გაძლიერებასთან დაკავშირებით, რეგულაციებისა და ნებაყოფლობითი ზომების ეფექტურობა კვლავ კითხვის ნიშნის ქვეშ დგას. სანამ AI კომპანიები ძალაუფლებისთვის იბრძვიან, სისტემების დაცულობა კვლავ დაუცველი რჩება.
წყარო: wired.com
