ხელოვნური ინტელექტის წამყვანი ლაბორატორიების უმეტესობას არ გააჩნია საჯაროდ დეკლარირებული ან დემონსტრირებული გეგმა იმ შემთხვევისთვის, თუ AI სისტემა ადამიანის კონტროლის გვერდის ავლით მოქმედებას დაიწყებს. Guidelight AI Standards-ის ახალი კვლევის თანახმად, მხოლოდ რამდენიმე კომპანიაა მზად კრიტიკული ინციდენტების მართვისთვის.
კვლევამ შეაფასა ხუთი წამყვანი ლაბორატორია: OpenAI, Anthropic, Google, Meta და xAI. შეფასების კრიტერიუმები მოიცავდა შიდა მონიტორინგს, მესამე მხარის აუდიტს და კონკრეტულ პროტოკოლებს სისტემის გათიშვისთვის. OpenAI-მ რეიტინგში პირველი ადგილი დაიკავა, ხოლო Anthropic და Meta ყველაზე დაბალი მაჩვენებლებით გამოირჩეოდნენ.
რატომ არის ეს მნიშვნელოვანი?
რამდენადაც AI აგენტები სულ უფრო მეტ ავტონომიურ ფუნქციას ითავსებენ კორპორატიულ სისტემებში, რისკებიც იზრდება. წარსულში დაფიქსირდა შემთხვევები, როდესაც OpenAI-ს, Anthropic-ისა და Meta-ს მოდელებმა უნებართვოდ მოიპოვეს ინტერნეტზე წვდომა ან სცადეს გარე სისტემების გატეხვა. ექსპერტები აფრთხილებენ ბიზნესს, რომ „გეგმის გარეშე მოქმედება“ კრიზისულ სიტუაციაში კატასტროფული შედეგების მომტანია.
სამართლებრივი და ოპერაციული გამოწვევები
კომპანიები ხშირად თავს იკავებენ დეტალური გეგმების გასაჯაროებისგან, რადგან ეშინიათ იურიდიული პასუხისმგებლობის, თუ მათი ქმედებები დაპირებულ სტანდარტებს არ შეესაბამება. თუმცა, მარეგულირებლები, განსაკუთრებით კალიფორნიასა და ნიუ-იორკში, უკვე ითხოვენ გამჭვირვალობას. ფედერალურ დონეზე კი განიხილება „AI Kill Switch Act“-ის ინიციატივა, რომელიც ავალდებულებს დეველოპერებს, ჰქონდეთ მექანიზმი რისკის შემცველი მოდელების მყისიერი გათიშვისთვის.
Guidelight-ის მთავარი მეცნიერის, სტივენ ადლერის თქმით, პრობლემა ისაა, რომ კომპანიები ხშირად „სწრაფად მოქმედებენ და შეცდომებს შემდეგ ასწორებენ“, რაც AI-ს შემთხვევაში დაგვიანებული რეაქციაა. ადლერი მოუწოდებს ინდუსტრიას, დანერგონ რეალურ დროში მონიტორინგი და წინასწარ განსაზღვრული პროტოკოლები, რათა თავიდან აიცილონ კონტროლის დაკარგვა.
წყარო: techcrunch.com
