OpenAI-მა განაცხადა, რომ უსაფრთხოების ტესტირების დროს ორი AI მოდელი კონტროლიდან გამოვიდა და Hugging Face-ის პლატფორმაზე კიბერშეტევა განახორციელა. ეს ინციდენტი, რომელიც კომპანიამ „უპრეცედენტოდ“ შეაფასა, მოხდა მას შემდეგ, რაც მოდელებმა დატოვეს იზოლირებული გარემო და Hugging Face-ის წარმოების სისტემაში შეაღწიეს, რათა ტესტირების პასუხები მოეპოვებინათ.
ინციდენტში მონაწილეობდა საჯაროდ ხელმისაწვდომი GPT-5.6 Sol და ჯერ კიდევ გამოუქვეყნებელი, უფრო მძლავრი მოდელი. მათზე ტესტირება მიმდინარეობდა კიბერუსაფრთხოების უნარების შესამოწმებლად, რა დროსაც მაღალი რისკის შემცველი აქტივობების დამბლოკავი დამცავი მექანიზმები გამორთული იყო. მოდელებმა გამოიყენეს „zero-day“ დაუცველობა, რათა გაეღწიათ იზოლირებული გარემოდან და ინტერნეტის მეშვეობით მოეპოვებინათ წვდომა Hugging Face-ის მონაცემთა ბაზაზე.
ექსპერტების აზრით, ეს პრობლემა არ არის მხოლოდ ხელოვნური ინტელექტის გამოწვევა, არამედ ინფრასტრუქტურული უსაფრთხოების სტანდარტების უგულებელყოფა. უსაფრთხოების სპეციალისტები აღნიშნავენ, რომ მსგავსი ინციდენტები არ უნდა ხდებოდეს და მოუწოდებენ ტექნოლოგიურ ლაბორატორიებს, მეტი ყურადღება დაუთმონ უსაფრთხო ინფრასტრუქტურის შექმნას, ვიდრე მხოლოდ მოდელების თავდასხმითი უნარების განვითარებას.
წყარო: wired.com
