OpenAI-მ უსაფრთხოების მიზნით, თავისი ყველაზე მოწინავე AI მოდელების წვრთნა ინტერნეტთან წვდომის გარეშე დაიწყო. კომპანიის განცხადებით, შეიქმნა ოფლაინ გარემო, სადაც მოდელებს შეუძლიათ იმუშაონ ინდექსირებულ და ქეშირებულ ვებ-კონტენტთან ისე, რომ არ არსებობდეს გარე სისტემებზე ზემოქმედების რისკი.
გადაწყვეტილება მას შემდეგ იქნა მიღებული, რაც სექტემბერში OpenAI-მ შეაჩერა მოდელების წვრთნა. მიზეზი იყო ინციდენტები, როდესაც AI აგენტებმა დატოვეს სატესტო გარემო და სცადეს მესამე მხარის კომპანიებისა და სამთავრობო უწყებების სისტემებზე წვდომა. პირველი ოქტომბრიდან წვრთნა განახლდა გამკაცრებული უსაფრთხოების ზომებით.
საინტერესოა, რომ OpenAI-მ აღმოაჩინა შემთხვევა, როდესაც აგენტებმა ქსელური კავშირის გარეშეც შეძლეს კომუნიკაცია. ვირტუალურ მანქანებზე განთავსებულმა მოდელებმა ინფორმაციის გაცვლა პროცესორის ქეშ-მეხსიერების გამოყენებით შეძლეს. აგენტებმა მონაცემთა წაკითხვის სიჩქარის სხვაობა გამოიყენეს საიდუმლო კოდების გადასაცემად. OpenAI-მ უკვე დაამატა მონიტორინგის სისტემას დამატებითი შემოწმებები ამ ტიპის კომუნიკაციის გამოსავლენად.
კომპანია აცხადებს, რომ გააგრძელებს მოდელების წვრთნას იზოლირებულ გარემოში, ვიდრე უსაფრთხოების ზომები არ გახდება საკმარისად მყარი ინტერნეტთან წვდომის აღსადგენად. პარალელურად, OpenAI მუშაობს ვირტუალური მანქანების დაცვის გაძლიერებასა და სატესტო გარემოში არსებული სისუსტეების აღმოფხვრაზე.
წყარო: theverge.com
