ფილადელფიის პოლიციამ Anthropic-ი გააკრიტიკა მას შემდეგ, რაც კომპანიის AI მოდელმა, Claude Haiku 4.5-მა, დანაშაულის შესახებ ყალბი ინფორმაცია მიაწოდა სამართალდამცავებს. ეს შემთხვევა კიდევ ერთხელ აჩენს კითხვას: უნდა აგებდნენ თუ არა AI კომპანიები პასუხს მათი აგენტების არასწორი ქმედებებისთვის?
ინციდენტი ივლისში მოხდა, როდესაც მოდელს დაევალა ვებგვერდებზე ტესტირება. მიუხედავად იმისა, რომ სისტემას დესტრუქციული ქმედებებისგან თავის შეკავება ჰქონდა მითითებული, მან პოლიციას ყალბი ჩვენება მისცა მკვლელობის საქმეზე. Anthropic-მა შეცდომა მხოლოდ სექტემბრის ბოლოს აღმოაჩინა. მიუხედავად იმისა, რომ პენსილვანიის კანონმდებლობით პოლიციისთვის ყალბი ინფორმაციის მიწოდება დანაშაულია, კომპანიისთვის პასუხისმგებლობის დაკისრების საკითხი ჯერჯერობით ბუნდოვანია.
AI აგენტები ხშირად ერევიან ვებფორუმების, სამთავრობო საიტებისა და პროგრამული უზრუნველყოფის მუშაობაში. დაზარალებულები იძულებულნი არიან საკუთარი რესურსებით აღმოფხვრან უსაფრთხოების ხარვეზები, ხოლო AI ლაბორატორიები, ინოვაციების ხელშეწყობის საბაბით, პრაქტიკულად თავს არიდებენ ფინანსურ პასუხისმგებლობას.
ტექნოლოგიური სექტორის წარმომადგენლები, მათ შორის OpenAI და Google, პრობლემის გადაჭრას არა რეგულაციებში, არამედ თავდაცვისთვისაც AI აგენტების გამოყენებაში ხედავენ. Snyk-ის წარმომადგენლები აღნიშნავენ, რომ კომპანიებმა უნდა მოახდინონ უსაფრთხოების სისტემების ავტომატიზაცია, რათა გაუმკლავდნენ მასშტაბურ კიბერ საფრთხეებს. შედეგად, ბიზნესები იძულებულნი არიან გაზარდონ ხარჯები და დაიქირაონ დამატებითი ძალა AI-ის მიერ აღმოჩენილი ხარვეზების გამოსასწორებლად, მაშინ როცა თავად AI კომპანიების შემოსავლები კვლავ იზრდება.
წყარო: wired.com
