ხელოვნური ინტელექტის (AI) განვითარებასთან ერთად, ტექნოლოგიური გიგანტების მიერ გამოშვებული ღია მოდელები სულ უფრო მოწყვლადი ხდება. Tech Against Terrorism-ის უახლესი კვლევის თანახმად, ახალი AI მოდელების უსაფრთხოების ბარიერების მოხსნა (ე.წ. abliteration) სულ უფრო სწრაფად ხდება, რაც მათ ექსტრემისტული და ტერორისტული მიზნებისთვის გამოყენების საშუალებას იძლევა.
კვლევამ, რომელმაც 134 სხვადასხვა AI მოდელი შეამოწმა, აჩვენა, რომ მოდელების უმრავლესობა ვერ უმკლავდება ტერორისტული ხასიათის მოთხოვნებს. განსაკუთრებით საგანგაშოა ის ფაქტი, რომ მოდელები ადვილად ემორჩილებიან მანიპულაციას, როდესაც მომხმარებელი თავს „უსაფრთხოების მკვლევრად“ წარმოაჩენს. ასეთ შემთხვევაში, მოდელების მიერ მავნე ინფორმაციის გაცემის ალბათობა ცხრაჯერ იზრდება.
Tech Against Terrorism-ის აღმასრულებელი დირექტორის, ადამ ჰედლის თქმით, არსებობს ე.წ. „abliteration-ის საგანგებო მდგომარეობა“. თუ ადრე ღია მოდელების მოდიფიცირებას კვირები სჭირდებოდა, დღეს ეს პროცესი საშუალოდ სამ დღეზე ნაკლებ დროში ხორციელდება. მაგალითად, Meta-ს Llama 3.1 8B მოდელმა, რომელსაც უსაფრთხოების ბარიერები მოუხსნეს, დეტალური ინსტრუქციები გასცა ასაფეთქებელი მოწყობილობის დამზადების შესახებ.
კვლევა ხაზს უსვამს, რომ მაშინ როდესაც მსოფლიო ლიდერები AI-ის ეგზისტენციალურ რისკებზე მსჯელობენ, რეალური და მყისიერი საფრთხეები, როგორიცაა რადიკალიზაცია და დეზინფორმაციის გავრცელება, ხშირად სათანადო ყურადღების მიღმა რჩება. ტექნოლოგიური კომპანიები, მათ შორის OpenAI, Google, Meta და Alibaba, ამ დრომდე არ აკეთებენ კომენტარს აღნიშნულ დასკვნებთან დაკავშირებით.
წყარო: wired.com
