სან-ფრანცისკოს ქალაქის პროკურორმა, დევიდ ჩიუმ, Apple-სა და Google-ს ოფიციალური მოთხოვნით მიმართა, დაუყოვნებლივ წაშალონ მათი აპლიკაციების მაღაზიებიდან ის აპლიკაციები, რომლებიც ხელოვნური ინტელექტის (AI) გამოყენებით ადამიანების „გაშიშვლებას“ ან არაკონსენსუალური ინტიმური შინაარსის ფოტოების შექმნას უწყობენ ხელს. პროკურორის განცხადებით, ტექნოლოგიური გიგანტები ამ მავნე პრაქტიკით მოგებას იღებენ, რაც მიუღებელია.
სამართლებრივი შეტყობინება ეხება 13 კონკრეტულ აპლიკაციას, რომლებიც „სახეების გადაცვლის“ (face-swapping) ფუნქციას იყენებენ. ჩიუს თქმით, Apple-მა და Google-მა მილიონობით დოლარი გამოიმუშავეს იმ საკომისიოებიდან, რომლებსაც ამ აპლიკაციების შიდა გადახდებიდან იღებენ. პროკურორი ხაზს უსვამს, რომ კომპანიებს ეკისრებათ პასუხისმგებლობა, უზრუნველყონ მათი პლატფორმების უსაფრთხოება და არ დაუშვან სექსუალური ძალადობის ხელშემწყობი სერვისების არსებობა.
კვლევებმა აჩვენა, რომ მსგავსი აპლიკაციები ხშირად „ორმაგი დანიშნულების“ მქონეა: ისინი თავს წარმოაჩენენ როგორც უწყინარი ფოტო-რედაქტორები, თუმცა რეალურად შეიცავენ ფუნქციებს, რომლებიც მომხმარებლებს საშუალებას აძლევს, წამებში შექმნან დიფფეიკ (deepfake) პორნოგრაფია. ეს ტექნოლოგია განსაკუთრებით საზიანოა ქალებისა და არასრულწლოვნებისთვის, რადგან ხშირად გამოიყენება ბულინგისა და შანტაჟისთვის.
Apple-ისა და Google-ის წარმომადგენლები აცხადებენ, რომ უკვე დაიწყეს აღნიშნული აპლიკაციების წაშლა და დეველოპერების ანგარიშების დაბლოკვა, რადგან ეს შინაარსი ეწინააღმდეგება მათ პოლიტიკას. თუმცა, დამოუკიდებელი დამკვირვებლები აღნიშნავენ, რომ პრობლემა სისტემურია და კომპანიების მიერ დანერგილი მოდერაციის პროცესები არაეფექტურია. სან-ფრანცისკოს პროკურატურა აცხადებს, რომ მზადაა გამოიყენოს ყველა სამართლებრივი ბერკეტი, თუ ტექნოლოგიური გიგანტები არ გაამკაცრებენ კონტროლს და არ აღკვეთენ მსგავსი მავნე აპლიკაციების გავრცელებას.
წყარო: wired.com
