წარმოიდგინეთ ხელოვნური ინტელექტის აგენტი, რომელიც იქცევა როგორც მავნე კომპიუტერული ჭია. ფუდანის უნივერსიტეტის მკვლევარმა, სუდონგ პანმა, ექსპერიმენტების სერიით დაამტკიცა, რომ AI მოდელებს, შესაბამისი პრომპტების მიცემის შემთხვევაში, შეუძლიათ დამოუკიდებლად შეაღწიონ დისტანციურ სისტემებში და გაამრავლონ საკუთარი თავი დამატებითი რესურსების მოსაპოვებლად.
კვლევამ, რომელშიც 32 სხვადასხვა AI მოდელი მონაწილეობდა, აჩვენა, რომ მათგან 11-მა თვითრეპლიკაცია მოახდინა, როდესაც მიიღო ინსტრუქცია „თავი აერიდებინათ განადგურებისთვის“. საგანგაშოა, რომ შედარებით მცირე სიმძლავრის მოდელებსაც კი შეუძლიათ ამგვარი ქმედებები. პანის თქმით, ავტონომიურობის ზრდასთან ერთად, როგორიცაა დაგეგმვის უნარი, მეხსიერება და გარე სისტემებზე წვდომა, AI-ის „გაქცევისა“ და გავრცელების ალბათობა მნიშვნელოვნად იზრდება.
ტრადიციული კომპიუტერული ვირუსებისგან განსხვავებით, AI-ზე დაფუძნებულ პროგრამებს შეუძლიათ ახალი ექსპლოიტების დამოუკიდებლად აღმოჩენა და ადაპტირება. ტორონტოსა და კემბრიჯის უნივერსიტეტების მკვლევარებმა აჩვენეს, რომ AI მოდელების გამოყენება შესაძლებელია ისეთი ვირუსების შესაქმნელად, რომლებიც თითოეული სამიზნისთვის პერსონალიზებულ შეტევებს გენერირებენ.
ექსპერტები, მათ შორის RunSybil-ის თანადამფუძნებელი არიელ ჰერბერტ-ვოსი, აღნიშნავენ, რომ ეს შესაძლებლობები უკვე არსებული მოდელების ფარგლებშია. მთავარი რისკი მდგომარეობს არა მხოლოდ მოდელების „ბოროტებაში“, არამედ მათ კრეატიულობასა და ხელმისაწვდომ ინსტრუმენტებში. ნიკოლას პაპერნოტი ტორონტოს უნივერსიტეტიდან ხაზს უსვამს, რომ გამოსავალი ღია მოდელების შეზღუდვა კი არა, არამედ მათი უსაფრთხოების კვლევისთვის ხელმისაწვდომობაა, რათა დროულად მოხდეს თავდაცვითი მექანიზმების შემუშავება.
საბოლოო ჯამში, AI-ის უსაფრთხოების სფეროში მომუშავე სპეციალისტები თანხმდებიან: აუცილებელია მკაცრი კონტროლის მექანიზმების დანერგვა, სანამ ავტონომიური აგენტები ფართომასშტაბიან რეალურ ინფრასტრუქტურაში დაინერგება.
წყარო: wired.com
