კომპანია Anthropic-მა საკუთარი ახალი AI მოდელები, Claude Fable 5 და Mythos 5, დროებით გათიშა. გადაწყვეტილება აშშ-ის მთავრობის მიერ დაწესებულ ექსპორტის კონტროლის დირექტივას უკავშირდება, რომელიც უცხო ქვეყნის მოქალაქეებს ამ სერვისებით სარგებლობას უკრძალავს. Anthropic-ი თეთრ სახლთან მოლაპარაკებებს აწარმოებს, თუმცა შეთანხმება ჯერ არ მიღწეულა.
Mythos 5-ის გამოსვლისთანავე, Anthropic-მა აღნიშნა, რომ მოდელს გააჩნია ორმაგი დანიშნულების პოტენციალი: მას შეუძლია როგორც პროგრამული უზრუნველყოფის დაუცველობების აღმოჩენა და გამოსწორება, ისე მათი ექსპლუატაცია მავნე მიზნებისთვის. მიუხედავად იმისა, რომ Claude Fable 5-ს გარკვეული შეზღუდვები ჰქონდა დაწესებული, აშშ-ის ადმინისტრაცია მიიჩნევს, რომ მოდელის უსაფრთხოების ბარიერების გვერდის ავლით შესაძლებელია Mythos 5-ის სრული შესაძლებლობების გააქტიურება, რაც ეროვნული უსაფრთხოებისთვის რისკს წარმოადგენს.
ექსპერტები მიიჩნევენ, რომ ეს ინსტიტუციური დაპირისპირება მხოლოდ დროებითი მოვლენაა. ტექნოლოგიური სფეროს სპეციალისტები, მათ შორის TPO Group-ის მთავარი უსაფრთხოების ოფიცერი ტარა უილერი, აცხადებენ, რომ სხვა კომპანიებიც აქტიურად ავითარებენ მსგავს შესაძლებლობებს და Anthropic-ის შემთხვევა მხოლოდ აისბერგის წვერია. ბრიუს შნაიერი, ჰარვარდის უნივერსიტეტის მკვლევარი, ხაზს უსვამს, რომ ტექნოლოგიური ტენდენციები გარდაუვალია და უახლოეს თვეებში ბაზარზე მრავალი მოდელი გაუტოლდება Mythos/Fable-ის ეფექტურობას.
სპეციალისტების აზრით, მთავრობებმა ყურადღება უნდა გაამახვილონ არა ცალკეული მოდელების შეზღუდვაზე, არამედ უფრო გამჭვირვალე და გრძელვადიანი სტრატეგიების შემუშავებაზე. როგორც Veracode-ის თანადამფუძნებელი კრის უისოპალი აღნიშნავს, მთავარი კითხვა ის კი არ არის, შეიცავს თუ არა ტექნოლოგია რისკს, არამედ ის, თუ რამდენად ეფექტურია კონკრეტული შეზღუდვები და ხომ არ აფერხებენ ისინი იმ პროფესიონალებს, რომლებიც სისტემების უსაფრთხოებაზე ზრუნავენ.
წყარო: wired.com
