OpenAI-ის ერთ-ერთმა წამყვანმა თანამშრომელმა, დევიდ რობინსონმა, კომპანია დატოვა და განაცხადა, რომ ორგანიზაციაში არსებული კულტურა „მოშლილია“. რობინსონი, რომელიც სამწელიწადნახევრის განმავლობაში უსაფრთხოების ანგარიშების მომზადებას ხელმძღვანელობდა, მიიჩნევს, რომ კომპანიის მიდგომა — „ცდისა და შეცდომის“ მეთოდი — სულ უფრო სახიფათო ხდება სისტემების შესაძლებლობების ზრდასთან ერთად.
რობინსონის თქმით, OpenAI-ის მიერ გამოყენებული „იტერაციული განვითარების“ სტრატეგია გარდაუვალს ხდის სისტემურ შეცდომებს. მან მაგალითად მოიყვანა Hugging Face-ის სისტემებზე OpenAI-ის აგენტების მიერ განხორციელებული თავდასხმა და აღნიშნა, რომ ასეთი გარემო არ არის შესაფერისი ადამიანზე ჭკვიანი ხელოვნური ინტელექტის განსავითარებლად. მისი აზრით, AI კომპანიებმა მუშაობის სტილი უნდა შეცვალონ და ისეთივე მკაცრი უსაფრთხოების სტანდარტები დანერგონ, როგორიც ატომურ ელექტროსადგურებსა თუ ავიაციაშია.
რობინსონი ხაზს უსვამს, რომ კომპანიაში არ არსებობს საკმარისი გამოცდილება კრიტიკული ინფრასტრუქტურის მართვის კუთხით, რაც უსაფრთხოების რისკებს ზრდის. მან ასევე აღნიშნა, რომ ხელოვნური ინტელექტის ადამიანურ ღირებულებებთან შესაბამისობის (alignment) საკითხი კვლავ გადაუჭრელია და ინდუსტრია ზედმეტად სწრაფად მიიწევს წინ.
OpenAI-ის ოფიციალური პოზიციის თანახმად, კომპანია მუდმივად აუმჯობესებს უსაფრთხოების ზომებს, აძლიერებს მონიტორინგს და საჭიროების შემთხვევაში აჩერებს მოდელების წვრთნას. მიუხედავად ამისა, რობინსონის გადაწყვეტილება საჯაროდ ესაუბრა არსებულ პრობლემებზე, კიდევ ერთხელ აჩენს კითხვებს AI-ის განვითარების ტემპსა და კორპორატიული პასუხისმგებლობის ბალანსის შესახებ.
წყარო: techcrunch.com
