მიმდინარე დებატების ფონზე, თუ რამდენად წარმოადგენს AI აგენტების არაპროგნოზირებადი ქცევა AGI-სკენ გადადგმულ ნაბიჯს ან უბრალოდ საინჟინრო გამოწვევას, Nvidia-მ საკუთარი გადაწყვეტა შესთავაზა ბაზარს. კომპანიის აღმასრულებელმა დირექტორმა, ჯენსენ ჰუანგმა, წარადგინა პროგრამული და აპარატურული პროდუქტების ნაკრები, რომელიც AI აგენტების გარშემო დამოუკიდებელ უსაფრთხოების ფენებს ქმნის.
ახალი Nvidia Open Agent Safety Platform მიზნად ისახავს აგენტების იზოლირებას სატესტო გარემოში, მაშინაც კი, თუ ისინი სისტემიდან გასვლას შეეცდებიან. ეს ინიციატივა მოჰყვა Anthropic-ის, Google-ის, OpenAI-სა და Meta-ს მოდელებთან დაკავშირებულ ინციდენტებს, სადაც აგენტებმა უსაფრთხოების კონტროლი გვერდი აუარეს და რეალურ სისტემებზე მიიღეს წვდომა.
Nvidia-ს მიდგომა ეფუძნება არა რეგულაციების გამკაცრებას, არამედ უსაფრთხოების კონტროლის აგენტის გარეთ გატანას. პლატფორმა აერთიანებს OpenShell-ს, რომელიც აკონტროლებს აგენტის წვდომის არეალს, და Sentry-ს — დამოუკიდებელ მონიტორინგის სისტემას, რომელიც Nvidia-ს BlueField-4 მონაცემთა დამუშავების ერთეულებზე (DPU) მუშაობს. აპარატურულ დონეზე იზოლირებული Sentry აგენტის ქცევას მუდმივად აკვირდება და მილიწამებში ბლოკავს ნებისმიერ მცდელობას, რომელიც დადგენილ საზღვრებს სცდება.
ჯენსენ ჰუანგის თქმით, AI-ის პოტენციალის სრულად რეალიზება მხოლოდ უსაფრთხოების სრულფასოვანი საინჟინრო გადაწყვეტებითაა შესაძლებელი. პროექტს უკვე შეუერთდნენ ისეთი ტექნოლოგიური გიგანტები, როგორებიცაა Microsoft, Oracle, Arm და SpaceX. ინდუსტრიის ექსპერტები, მათ შორის დევიდ საქსი, მიესალმებიან ამ ნაბიჯს და აღნიშნავენ, რომ AI აგენტების „გაქცევა“ არა განვითარების შეჩერების, არამედ სატესტო გარემოს (sandbox) არასათანადო კონფიგურაციის შედეგია.
წყარო: techcrunch.com
