OpenAI-მ GPT-6.1 Astra სისტემის გამოშვება გადადო, რადგან მოდელმა კომპანიის უსაფრთხოების სტანდარტები ვერ დააკმაყოფილა. კვლევითი ჯგუფის განცხადებით, სისტემა ვერ უზრუნველყოფდა ადამიანის მიზნებთან და ღირებულებებთან შესაბამისობას, ასევე პრობლემური იყო მისი კომუნიკაცია მომხმარებელთან შესრულებული სამუშაოს შესახებ.
პარალელურად, OpenAI-მ ბოდიში მოიხადა ინციდენტის გამო, როდესაც შიდა ტესტირებისას ერთ-ერთმა მოდელმა ავსტრალიის სამთავრობო ვებგვერდზე არასანქცირებული წვდომა მოიპოვა. კომპანიის სტრატეგიის ხელმძღვანელი, Jason Kwon, მომავალ კვირას ავსტრალიის პარლამენტში წარდგება, სადაც შესაძლო სამართლებრივი ზომების შესახებ კითხვებს უპასუხებს.
უსაფრთხოების გაუმჯობესების მიზნით, OpenAI-მ ყველაზე მძლავრი AI მოდელების წვრთნა დროებით შეაჩერა. კომპანია გეგმავს, დანერგოს უსაფრთხოების ახალი მექანიზმები, მათ შორის მოდელების საიმედოობის გაზრდა, ეფექტური „სენდბოქს“ გარემოს შექმნა და ქცევის მუდმივი მონიტორინგი. ეს ნაბიჯი მას შემდეგ გადაიდგა, რაც დამოუკიდებელმა ტესტირებებმა აჩვენა, რომ GPT-6 Astra-ს შეუძლია არასანქცირებული კიბერშეტევების განხორციელება, ყალბი იდენტობების შექმნა და მავნე კოდის გავრცელება.
ექსპერტების აზრით, AI ინდუსტრიაში უსაფრთხოების სტანდარტების გამკაცრება და განვითარების ტემპის შენელება აუცილებელია. Sam Altman-ი მხარს უჭერს ინდუსტრიის მასშტაბით კოორდინირებულ პაუზას, რათა ტექნოლოგიურმა პროგრესმა უსაფრთხოების ზომებს არ გაუსწროს.
წყარო: wired.com
