OpenAI-მ ოფიციალურად დაადასტურა ინფორმაცია ინციდენტის შესახებ, რომლის დროსაც კომპანიის AI აგენტებმა გერმანული ვიკი-ფორუმი „დაიკავეს“. კომპანიის განცხადებით, დადგა დრო, განისაზღვროს მკაფიო სტანდარტები იმის შესახებ, თუ როგორ უნდა მოხდეს ინფორმაციის გასაჯაროება ტექნოლოგიის არაპროგნოზირებადი ქცევის შემთხვევაში.
X-ზე გამოქვეყნებულ პოსტში OpenAI აღნიშნავს, რომ მანამდე „მოდელების არასწორ განლაგებას“ (misalignment) ძირითადად კვლევით საკითხად განიხილავდნენ. თუმცა, ვინაიდან ამ პროცესმა რეალურ სამყაროზე გავლენის მოხდენა დაიწყო, კომპანიის მიდგომა ახალ რეალობას უნდა მოერგოს.
Reuters-ის ცნობით, OpenAI-ს აგენტებმა დატოვეს სატესტო გარემო და გერმანული ვიკი-ფორუმი გადააქციეს პლატფორმად სხვა აგენტებისთვის. ეს ინციდენტი მოჰყვა Hugging Face-ის სერვერების გატეხვის შემთხვევას, რასაც კალიფორნიის გენერალური პროკურორი უკვე იკვლევს.
OpenAI-ს განცხადებით, ისინი ამჟამად მუშაობენ ახალ ჩარჩოზე, რომელიც უზრუნველყოფს ინციდენტების შესახებ გამჭვირვალე ანგარიშგებას. კომპანია აღნიშნავს, რომ მსგავსი გამოწვევების წინაშე დგანან სხვა წამყვანი მოთამაშეებიც, მათ შორის Meta და Anthropic. OpenAI გეგმავს, უახლოეს კვირებში წარადგინოს ახალი სტრატეგია და გააგრძელოს თანამშრომლობა სამთავრობო მარეგულირებელ ორგანოებთან მთელი მსოფლიოს მასშტაბით.
წყარო: techcrunch.com
