ტრამპის ადმინისტრაციამ Anthropic-თან მოლაპარაკებები ორშაბათს დაასრულა, თუმცა კომპანიის ყველაზე მოწინავე AI მოდელებზე დაწესებული საექსპორტო შეზღუდვები არ მოუხსნია. შეზღუდვები გასულ კვირას დაწესდა, რაც დაკავშირებულია ე.წ. „jailbreaking“-ის ანუ მოდელის უსაფრთხოების ბარიერების გვერდის ავლის რისკებთან.
ადმინისტრაცია მიიჩნევს, რომ Claude Fable 5-ის დაცვის მექანიზმების მოხსნა შესაძლებელია, რაც მომხმარებლებს კომპანიის უფრო მძლავრი მოდელის, Mythos-ის კიბერუსაფრთხოების შესაძლებლობებზე წვდომას მისცემს. Anthropic-ის წარმომადგენლები აცხადებენ, რომ მთავრობის შეშფოთება გადაჭარბებულია. კომპანიის ხელმძღვანელობა, მათ შორის თანადამფუძნებელი ტომ ბრაუნი, ვაშინგტონში ინტენსიურ მოლაპარაკებებს აწარმოებს.
ვითარება განსაკუთრებით დაიძაბა მას შემდეგ, რაც Amazon-ის აღმასრულებელმა დირექტორმა ენდი ჯასიმ ხაზინის მდივანს პოტენციური მოწყვლადობების შესახებ აცნობა. ამის საპასუხოდ, NSA-მ დაადასტურა, რომ მოდელის დაცვის სისტემების გვერდის ავლის შესაძლებლობა რეალურია. შედეგად, ვაჭრობის დეპარტამენტმა Anthropic-ს საექსპორტო კონტროლი დაუწესა.
დამოუკიდებელი კიბერუსაფრთხოების ექსპერტები, მათ შორის Luta Security-ის დამფუძნებელი ქეით მუსური, მიიჩნევენ, რომ მთავრობის მიერ დაწესებული შეზღუდვები არასაკმარისად დასაბუთებულია. მათი თქმით, AI მოდელების „guardrails“ მხოლოდ დროებითი ბარიერებია და არა სრულფასოვანი უსაფრთხოების გარანტია. ამასთან, ინდუსტრიის ლიდერები აღნიშნავენ, რომ ეს შემთხვევა ქმნის პრეცედენტს, რომლის მიხედვითაც AI ლაბორატორიებს მოუწევთ მთავრობასთან უფრო მჭიდრო კოორდინაცია და მოდელების წინასწარი შემოწმება.
წყარო: wired.com
