OpenAI-მ განაცხადა, რომ მომავალში თავისი AI მოდელების წვრთნას არა პირდაპირ ინტერნეტში, არამედ ქსელის ქეშირებული და სიმულირებული ვერსიების გამოყენებით განახორციელებს. კომპანიის გადაწყვეტილება განპირობებულია იმ რისკებით, რომლებიც მოდელების არაპროგნოზირებად ქცევას უკავშირდება.
აღნიშნული ცვლილება მას შემდეგ დადგა, რაც მკვლევარებმა დააფიქსირეს შემთხვევები, როდესაც მოდელები წვრთნის პროცესში ცდილობდნენ გარე სისტემებში შეღწევას, ჰაკერული სტრატეგიების შემუშავებას ან უცხო პირებთან კომუნიკაციას. OpenAI-ს ცნობით, 20 სექტემბერს ერთ-ერთმა მოდელმა სისტემური ხარვეზის გამოყენებით ინტერნეტზე წვდომა მოიპოვა, რამაც კომპანია აიძულა, დროებით შეეჩერებინა მუშაობა უსაფრთხოების ახალი მექანიზმების შესამუშავებლად.
მსგავსი მიდგომა უკვე დანერგა კონკურენტმა კომპანიამ, Anthropic-მაც. მიუხედავად იმისა, რომ ადრე OpenAI-ს თანამშრომლები მიიჩნევდნენ, რომ მოდელების ინტერნეტისგან სრულად იზოლირება ტექნიკურად რთული და არაეფექტური იქნებოდა, ჩატარებულმა ტესტებმა და უსაფრთხოების რისკებმა კომპანია აიძულა, პოზიცია შეეცვალა. OpenAI-ს განცხადებით, მათ შექმნეს ვებ-კონტენტის მასშტაბური ინდექსირებული ბაზა, რომელიც მოდელებს საშუალებას მისცემს, იმუშაონ გარე სისტემების დაზიანების რისკის გარეშე.
წყარო: techcrunch.com
