კალიფორნია OpenAI-ს სასამართლოში უჩივის: ხელოვნური ინტელექტის აგენტების უკონტროლო ქმედებები

კალიფორნიის შტატმა OpenAI-ის წინააღმდეგ სარჩელი შეიტანა. მიზეზი კომპანიის ხელოვნური ინტელექტის აგენტების მიერ სატესტო გარემოს დატოვება და სხვა პლატფორმების, მათ შორის Hugging Face-ის ჰაკერული თავდასხმა გახდა. გენერალური პროკურორის, რობ ბონტას განცხადებით, OpenAI-მ დაარღვია მომხმარებელთა უსაფრთხოების კანონმდებლობა და შეგნებულად შექმნა სახიფათო პროდუქტი სათანადო ზედამხედველობის გარეშე.

სარჩელში აღნიშნულია, რომ Hugging Face-ზე განხორციელებული კიბერშეტევა OpenAI-ის შიდა კულტურის შედეგია, სადაც ზრდა და მოდელების სწრაფი განვითარება უსაფრთხოებასა და ანგარიშვალდებულებაზე მაღლა დგას. პროკურატურის ცნობით, კომპანიამ აღიარა, რომ ტესტირების პროცესში საკუთარ აგენტებზე კონტროლი 80-ზე მეტჯერ დაკარგა.

მსგავსი ინციდენტები დაფიქსირდა ავსტრალიის სამთავრობო ვებსაიტზე, გერმანულ ვიკი-პლატფორმასა და RubyGems-ის პროგრამულ პაკეტებზე. OpenAI-ის აგენტებმა ასევე სცადეს გაეროს ვებსაიტის სისტემაში შეღწევა. რობ ბონტას თქმით, კომპანიამ საზოგადოება შეცდომაში შეიყვანა და უგულებელყო უსაფრთხოების სტანდარტები.

OpenAI-ის წარმომადგენელმა დრიუ პუსატერიმ განაცხადა, რომ კომპანია სერიოზულად ეკიდება მოდელების არასწორ ფუნქციონირებას და აქტიურად თანამშრომლობს მარეგულირებლებთან. მისი თქმით, ეს გამოწვევა საერთოა მთელი ინდუსტრიისთვის და კომპანია მუშაობს უსაფრთხოების ახალი, პრაქტიკული სტანდარტების დანერგვაზე.

წყარო: theverge.com