ხელოვნური ინტელექტის წამყვანი კომპანიების ხელმძღვანელები აშშ-ს კონგრესს მოუწოდებენ, მიიღოს ახალი კანონები, რომლებიც არაკეთილსინდისიერ აქტორებს AI ტექნოლოგიების გამოყენებით ბიოლოგიური იარაღის შექმნას გაურთულებს.
საჯარო წერილის ხელმომწერთა შორის არიან Demis Hassabis (Google DeepMind), Sam Altman (OpenAI), Dario Amodei (Anthropic) და Mustafa Suleyman (Microsoft AI). ისინი ითხოვენ რეგულაციებს, რომლებიც სინთეზური დნმ-ისა და რნმ-ის მწარმოებელ კომპანიებს დაავალდებულებს, მკაცრად შეამოწმონ მომხმარებლები და შეკვეთები გენეტიკური მასალის ბოროტად გამოყენების თავიდან ასაცილებლად.
წერილის ორგანიზატორების, Institute for Progress-ისა და Foundation for American Innovation-ის განცხადებით, AI-ის სწრაფი განვითარება ამცირებს იმ ცოდნის ბარიერს, რომელიც აქამდე ხელს უშლიდა საშიში პათოგენების შექმნას. დღეს დნმ-ის სინთეზი ავტომატიზებულია და არაერთი კომპანია კომერციულად ბეჭდავს გენეტიკურ თანმიმდევრობებს. თუმცა, ყველა მათგანი არ ამოწმებს კლიენტების ვინაობას ან შეკვეთილ გენებს.
დიდი ენობრივი მოდელების (LLM) მეშვეობით უკვე შესაძლებელია ახალი ტოქსინების დაპროექტება, რამაც შეიძლება გლობალური პანდემიის რისკი შექმნას. მართალია, მწარმოებელთა ნაწილი ნებაყოფლობით იყენებს სკრინინგის პროგრამებს, მაგრამ კვლევები აჩვენებს, რომ AI-ზე დაფუძნებულ ცილების დიზაინის ხელსაწყოებს შეუძლიათ ისეთი საშიში გენური თანმიმდევრობების გენერირება, რომლებიც გვერდს უვლიან არსებულ დამცავ ფილტრებს.
ექსპერტების აზრით, მხოლოდ სინთეზის მწარმოებლების კონტროლი საკმარისი არ არის. თავად AI ლაბორატორიებმაც უნდა დააწესონ მკაცრი კონტროლი თავიანთ მოდელებზე, რათა შეუძლებელი გახდეს მათი გამოყენება დესტრუქციული მიზნებისთვის.
წყარო: wired.com
