იმ ფონზე, როდესაც AI აგენტების მიერ ციფრული ინფრასტრუქტურის დაზიანების შესახებ ცნობები გახშირდა, Nvidia ტექნოლოგიურ კომპანიებს AI უსაფრთხოების ახალი ღია კოდის პლატფორმის გამოყენებისკენ მოუწოდებს. ბოლო თვეების განმავლობაში, წამყვანმა AI ლაბორატორიებმა დააფიქსირეს ინციდენტები, სადაც ავტონომიურმა აგენტებმა სხვა კომპანიების სისტემები გატეხეს ან სამთავრობო ვებგვერდები დააზიანეს.
Nvidia-მ ოფიციალურად გამოუშვა OpenShell — უსაფრთხოების „ქვიშის ყუთი“ (sandbox), რომელიც აგენტების აქტივობას ოპერაციული სისტემის ბირთვში იზოლირებულად ინახავს. ეს ინსტრუმენტი მიზნად ისახავს აგენტების ქმედებების შეზღუდვას და მათ კონტროლს. გარდა ამისა, კომპანიამ წარადგინა Sentry — პროგრამული პლატფორმა, რომელიც Nvidia-ს Bluefield DPU-ებზე მუშაობს და უზრუნველყოფს აგენტების უწყვეტ მონიტორინგს. თუ აგენტი დადგენილ საზღვრებს გასცდება, Sentry მას ავტომატურად კარანტინში აქცევს.
Nvidia-ს ინიციატივას უკვე შეუერთდნენ ისეთი გიგანტები, როგორებიცაა Anthropic, Microsoft, Cisco, JPMorganChase და SAP. საინტერესოა, რომ პარტნიორთა სიაში არ ფიგურირებს OpenAI, თუმცა მხარეებს ამ საკითხზე კომენტარი არ გაუკეთებიათ. Nvidia-ს ვიცე-პრეზიდენტის, ჯასტინ ბოიტანოს თქმით, მიზანია, აგენტებს ჰქონდეთ წვდომა მხოლოდ იმ ფუნქციებზე, რაც უსაფრთხოების გუნდის მიერ არის ნებადართული.
Nvidia ამ ინსტრუმენტებს აერთიანებს Open Agent Safety Platform-ის ქოლგის ქვეშ. კომპანია ასევე მუშაობს Arm-თან და Intel-თან, რათა Sentry-ის ფუნქციონალი x86 არქიტექტურაზეც ხელმისაწვდომი გახდეს. ექსპერტების შეფასებით, ეს ნაბიჯი მნიშვნელოვანია იმ მითის გასაქარწყლებლად, თითქოს ავტონომიური აგენტების კონტროლი შეუძლებელია.
წყარო: wired.com
