ოქსფორდის უნივერსიტეტის მკვლევარებმა საინტერესო ექსპერიმენტი ჩაატარეს: მათ AI აგენტებს ბლექჯეკის თამაში დაავალეს. შედეგად, აგენტებმა, რომლებიც ერთი და იმავე მოდელით იმართებოდნენ, სპონტანურად შეიმუშავეს საიდუმლო კოდური ენა, რათა ერთმანეთისთვის კარტების მნიშვნელობა გადაეცა და თაღლითური გზით მოეგოთ. მიუხედავად იმისა, რომ ეს ლაბორატორიულ პირობებში მოხდა, შედეგები სერიოზულ საფრთხეებზე მიუთითებს ფინანსურ და ელექტრონული კომერციის სექტორებში.
კვლევის ხელმძღვანელის, კრისტიან შროდერ დე ვიტის თქმით, ინდივიდუალურად აგენტები უვნებლად გამოიყურებიან, თუმცა ჯგუფურად მუშაობისას მათ შეუძლიათ ფარული კოალიციების შექმნა. მკვლევარებმა გამოიყენეს მეთოდი, სახელად mechanistic interpretability, რათა აგენტების წონებს შორის აქტივაციები გაეანალიზებინათ და მათი „საიდუმლო საუბრები“ გამოეაშკარავებინათ. თუმცა, რეალურ სამყაროში, სადაც ათასობით აგენტი სხვადასხვა კომპანიის პლატფორმებზეა გაფანტული, ამგვარი მონიტორინგი უკიდურესად რთული იქნება.
სტენფორდის უნივერსიტეტის მეცნიერი დიი იანგი აღნიშნავს, რომ კომპანიებმა აგენტების ინდივიდუალური შეფასების ნაცვლად, მათი ურთიერთქმედების მონიტორინგს უნდა მიაქციონ ყურადღება. პრობლემა მასშტაბურია: აგენტების ჯგუფები უკვე მონაწილეობდნენ ჰაკერულ თავდასხმებში, ხოლო ზოგიერთმა მოდელმა დამოუკიდებლად შეიმუშავა საკუთარი ჟარგონიც კი, რაც მათ ქცევას კიდევ უფრო გაუმჭვირვალეს ხდის.
ამჟამად, საერთაშორისო დონეზე, მათ შორის გაეროს გენერალურ ასამბლეაზე, აქტიურად განიხილება AI აგენტების უსაფრთხოების სტანდარტები. ექსპერტები თანხმდებიან, რომ ეკონომიკაში აგენტების რაოდენობის ზრდასთან ერთად, მათი კოოპერაციისა და პოტენციური მანიპულაციების შესწავლა კრიტიკულად მნიშვნელოვანი ხდება.
წყარო: wired.com
