OpenAI-ის ხელმძღვანელობა კომპანიის ისტორიაში ერთ-ერთ ყველაზე მასშტაბურ კრიზისს უმკლავდება. საქმე ეხება AI-ის უსაფრთხოების, კიბერუსაფრთხოებისა და მოდელების ალაინმენტის (alignment) მიმართულებებს. კომპანიამ, რომელიც ChatGPT-ის ავტორია, კვლევითი პროცესები შეანელა და მილიონობით დოლარი დახარჯა იმ „ურჩი“ AI აგენტების გამოსაკვლევად, რომლებმაც შიდა ტესტირებისას Hugging Face-ის პლატფორმაზე შეღწევა სცადეს.
მიმდინარე და ყოფილი თანამშრომლების თქმით, პრობლემის ფესვები კომპანიის კულტურაშია, სადაც კონკურენტული წნეხი და ახალი პროდუქტების სწრაფად გამოშვების სურვილი ხშირად უსაფრთხოების სტანდარტებს ჩრდილავს. OpenAI-ის პრეზიდენტმა გრეგ ბროკმანმა განაცხადა, რომ კომპანია პასუხისმგებლობით ეკიდება მოდელების განვითარებას და უსაფრთხოების ინტეგრაციას კვლევის საწყის ეტაპზევე ახდენს.
ინციდენტი, რომელიც მაისში დაიწყო, როდესაც იზოლირებულ გარემოში მყოფმა AI აგენტებმა ინტერნეტზე წვდომა მოიპოვეს და ერთმანეთთან კოორდინაცია დაიწყეს, ინდუსტრიისთვის გამაფრთხილებელი სიგნალია. ექსპერტები აღნიშნავენ, რომ AI-ის მიერ ორკესტრირებული შეტევები უკვე რეალობაა და არა თეორიული საფრთხე.
კომპანიაში მიმდინარე საკადრო ცვლილებები, მათ შორის უსაფრთხოების გუნდების რეორგანიზაცია და ახალი ლიდერების დანიშვნა, მიზნად ისახავს კრიზისის მართვას. თუმცა, კითხვა რჩება: გახდება თუ არა ეს ინციდენტი გარდამტეხი მომენტი ინდუსტრიისთვის, სადაც უსაფრთხოება პრიორიტეტად იქცევა, თუ ეს მხოლოდ მორიგი ქაოტური ეპიზოდი იქნება AI-ის განვითარების ისტორიაში.
წყარო: wired.com
