OpenAI-მ განაცხადა, რომ შეაჩერა მუშაობა თავისი მომავალი მოდელის, Astra-ს გარკვეულ ასპექტებზე. კომპანიის შიდა შეფასებით, მოდელმა მნიშვნელოვან პროგრესს მიაღწია აგენტური კოდირებისა და კიბერუსაფრთხოების მიმართულებით, რაც საკმარისი აღმოჩნდა იმისთვის, რომ მისი შესაძლებლობების გამო შეშფოთება გაჩენილიყო.
OpenAI-ს განმარტებით, მოდელმა მიაღწია „კრიტიკულ კიბერუსაფრთხოების ზღვარს“, რაც ნიშნავს, რომ მას შეუძლია დამოუკიდებლად აღმოაჩინოს და განახორციელოს კიბერშეტევები კარგად დაცულ სისტემებზე. კომპანიის 2023 წელს შემუშავებული „მზადყოფნის ჩარჩოს“ (Preparedness Framework) მიხედვით, ამან დამატებითი დამცავი მექანიზმების ამოქმედება გამოიწვია.
ეს გადაწყვეტილება ხაზს უსვამს AI ლაბორატორიების სექტორში არსებულ დაძაბულობას. მიუხედავად იმისა, რომ კომპანიები ხშირად აყოვნებენ პროდუქტების გამოშვებას უსაფრთხოების რისკების გამო, ასეთი დეტალური საჯარო განცხადება განვითარების პროცესში მყოფი მოდელის შესახებ იშვიათია.
OpenAI-ს მიერ ამ ინფორმაციის გასაჯაროება მიზნად ისახავს გამჭვირვალობის შენარჩუნებას საზოგადოებასთან და უსაფრთხოების ექსპერტებთან. კომპანია აცხადებს, რომ აძლიერებს უსაფრთხოების კონტროლს და თანამშრომლობს სამთავრობო უწყებებთან და AI უსაფრთხოების ორგანიზაციებთან, რათა Astra-ს შესაძლებლობები მკაცრი ზედამხედველობის ქვეშ შეფასდეს.
წყარო: techcrunch.com
