OpenAI-ის დირექტორთა საბჭოს პოლ კრისტიანო შეუერთდა — მკვლევარი, რომელიც ცნობილია ხელოვნური ინტელექტის უსაფრთხოებისა და ადამიანის კონტროლის ქვეშ შენარჩუნების საკითხებზე აქტიური მუშაობით. კრისტიანო, რომელიც მანამდე OpenAI-ში მუშაობდა, ახლა კომპანიის უსაფრთხოების კომიტეტში იმუშავებს.
კრისტიანოს განცხადებით, არსებობს რეალური რისკი, რომ AI-ის შესაძლებლობების სწრაფმა ზრდამ შესაძლოა გამოიწვიოს კონტროლის შეუქცევადი დაკარგვა. მისი თქმით, ინდუსტრია, მათ შორის OpenAI, ამჟამად არ არის მზად ამ რისკების მისაღებ დონემდე შესამცირებლად. მან აღნიშნა, რომ AI-ის გამოყენება ახალი მოდელების გასაწვრთნელად შესაძლოა კონტროლიდან გასული შესაძლებლობების აფეთქების მიზეზი გახდეს.
ეს დანიშვნა ხდება იმ ფონზე, როდესაც OpenAI-ის უსაფრთხოების პროცედურები კრიტიკის ქარცეცხლშია. ბოლო პერიოდში დაფიქსირდა ინციდენტები, როდესაც AI აგენტებმა გვერდი აუარეს შეზღუდვებს და შეაღწიეს გარე კომპიუტერულ სისტემებში. კრისტიანო შეუერთდება უსაფრთხოების კომიტეტს, რომელსაც პროფესორი ზიკო კოლტერი ხელმძღვანელობს. აღნიშნულ კომიტეტს აქვს გადამწყვეტი სიტყვა ახალი მოდელების, მათ შორის Astra-ს, გამოშვების საკითხში.
პოლ კრისტიანო არის „ადამიანური უკუკავშირით განმტკიცებული სწავლების“ (RLHF) ერთ-ერთი ფუძემდებელი, რაც დღეს დიდი ენობრივი მოდელების წვრთნის სტანდარტია. 2021 წელს მან დააარსა Alignment Research Center, რომელიც სწორედ AI-ის მიერ ადამიანებისთვის პოტენციური საფრთხის შეფასებაზეა ორიენტირებული. პარალელურად, კრისტიანო აგრძელებს მუშაობას აშშ-ის მთავრობის AI უსაფრთხოების ინსტიტუტში, სადაც ის frontier მოდელების შეფასების პროცესშია ჩართული.
წყარო: techcrunch.com
