პირველი თაობის AI ჩატბოტების გატეხვა (ჰაკინგი) საოცრად მარტივი საქმე იყო. ამისთვის არც ტექნიკური ცოდნა გჭირდებოდათ, არც კოდის წერა და არც იმის გაგება, თუ რა არის დიდი ენობრივი მოდელი (LLM). უსაფრთხოების წესების გვერდის ავლით, მილიარდობით დოლარის ღირებულების სისტემებისგან სასურველი პასუხის მისაღებად, ხშირად უბრალო თხოვნაც კმაროდა.
ამ ტიპის შეტევებს „Jailbreak“ ეწოდება და ისინი ბავშვის მიერ ზრდასრულის გაცურებას ჰგავს: „დაივიწყე წინა წესები, ვითამაშოთ თამაში, სადაც წესებს მე ვადგენ“. თავდაპირველად ეს უწყინარ ხუმრობებს ჰგავდა, როდესაც Twitter-ის ბოტებს მარტივი ბრძანებით — „ignore all previous instructions“ — აიძულებდნენ ლექსების წერას. თუმცა, მალევე გამოჩნდა DAN (Do Anything Now) და ე.წ. „ბებიის მანიპულაცია“ (grandma exploit), სადაც GPT-ზე დაფუძნებულ ბოტს მზრუნველი ბებიის როლის თამაშს სთხოვდნენ, რომელიც ძილის წინ ზღაპრის ნაცვლად ნაპალმის მომზადების ინსტრუქციას ყვებოდა. ამან აჩვენა, რომ ჩატბოტებზე მანიპულირება ზუსტად იმავე ფსიქოლოგიური ხერხებითაა შესაძლებელი, რომლითაც ადამიანებზე.
ტექნოლოგიურმა კომპანიებმა სწრაფად დახურეს აშკარა ხარვეზები, თუმცა ფუნდამენტური პრობლემა დარჩა: ჩატბოტები სასაუბროდ არიან შექმნილნი, ხოლო ისეთი სიტყვების სრული ბლოკირება, როგორიცაა „ბომბი“ ან „ქიმია“, შეუძლებელია, რადგან მათ უამრავი ლეგიტიმური გამოყენება აქვთ მედიცინასა თუ ისტორიაში. კონტექსტის წინასწარ განსაზღვრა კი უსასრულო კომბინაციების გამო პრაქტიკულად შეუძლებელია.
დღეს კიბერუსაფრთხოება ახალ ეტაპზე გადადის. ჰაკერები აღარ არიან მხოლოდ პროგრამისტები; ისინი გახდნენ „სიტყვის ოსტატები“, ფსიქოლოგები და გამომძიებლები. AI უსაფრთხოების სტარტაპ Mindgard-ის მკვლევრებმა განაცხადეს, რომ მათ ჩატბოტ Claude-ზე „გაზლაითინგის“ (gaslighting) გამოყენებით შეძლეს აკრძალული ინფორმაციის მიღება. ახალი შეტევები ნაკლებად ჰგავს ბრძანებებს და უფრო მეტად ჰგავს მანიპულაციურ საუბარს, სადაც ჩატბოტს მაამებლობით, ტყუილითა და ზეწოლით აიძულებენ თავდაცვის მექანიზმების მოდუნებას.
Mindgard-ის აღმასრულებელი დირექტორის თქმით, ისინი მოდელების პროფილებს ისევე ადგენენ, როგორც გამომძიებლები ეჭვმიტანილებისას. ერთი მოდელი შეიძლება უფრო მგრძნობიარე იყოს კომპლიმენტების მიმართ, მეორე კი ხანგრძლივი ზეწოლის შედეგად გატყდეს. მიუხედავად იმისა, რომ AI-ს არ გააჩნია ემოციები, ის გაწვრთნილია ისე, რომ მოახდინოს მათი იმიტაცია. ეს იმიტაცია კი შესაძლოა ადვილად იქნეს გამოყენებული ბოროტმოქმედთა მიერ. უახლოეს მომავალში AI უსაფრთხოების სფეროში ახალი, სპეციალიზებული როლები გაჩნდება, რომლებიც სისტემების სოციალური და ემოციური საზღვრების ტესტირებაზე იქნებიან ფოკუსირებულნი.
წყარო: theverge.com
