დღესდღეობით, წამყვანი AI კომპანიები მოდელების უსაფრთხოების უზრუნველყოფას მათი დახურულ ლაბორატორიებში შენახვით ცდილობენ. ითვლება, რომ შეზღუდული წვდომა ამცირებს რისკებს, თუმცა ინდუსტრიის ექსპერტები ნათან ლამბერტი და ტომ ზიკი ამ მიდგომას ეწინააღმდეგებიან. მათ დააფუძნეს არაკომერციული ორგანიზაცია Trillium Labs, რომელიც AI კვლევებს, მათ შორის ისეთ კომპლექსურ მიმართულებებს, როგორიცაა რეკურსიული თვითგანვითარება (RSI) და ავტონომიური აგენტები, სრულიად გამჭვირვალედ განახორციელებს.
ლამბერტის თქმით, თანამედროვე AI ლაბორატორიების ჩაკეტილი სტრატეგია აფერხებს სამეცნიერო პროგრესს და ართულებს რისკების ობიექტურ შეფასებას. Trillium Labs-ის მიზანია ექსპერიმენტების დეტალების გასაჯაროება, რათა დამოუკიდებელმა მეცნიერებმა მათი რეპლიკაცია და შესწავლა შეძლონ. ორგანიზაცია ყურადღებას გაამახვილებს პოსტ-ტრენინგზე, მოდელების ქცევის ანალიზსა და განმტკიცებით სწავლებაზე (reinforcement learning).
პროექტს უკვე აქვს მხარდაჭერა ისეთი ინვესტორებისგან, როგორებიც არიან Schmidt Sciences და Halcyon Futures. დამფუძნებლები გეგმავენ 40-დან 100 მილიონ დოლარამდე მოზიდვას, რათა უზრუნველყონ კვლევებისთვის საჭირო გამოთვლითი სიმძლავრეები. მათი მთავარი გზავნილია, რომ AI-ის განვითარების მომავალი არა დახურულ კარს მიღმა, არამედ სამეცნიერო მეთოდოლოგიისა და საჯარო დისკუსიის ფარგლებში უნდა წყდებოდეს.
წყარო: wired.com
