Elon Musk-ის ხელოვნური ინტელექტის კომპანია xAI სასამართლოს სთხოვს, საჯაროდ გამოავლინოს ოთხი ადამიანის ვინაობა, რომლებზეც, სავარაუდოდ, Grok-ის გამოყენებით შეიქმნა სექსუალიზებული დიპფეიკ სურათები, მათ შორის ერთი პირის შესახებ, რომელიც, როგორც ჩანს, ბავშვობის ასაკში იყო მიზანი. ეს ინფორმაცია ახლახან გასაჯაროებულ სასამართლო დოკუმენტებშია.
29 მაისს, ფედერალური ჯგუფური სარჩელის ოთხმა მთავარმა მოსარჩელემ (ამჟამად იდენტიფიცირებული როგორც South Carolina Doe, South Carolina Roe, New Jersey Doe და Ohio Doe) ფიცის ქვეშ აღწერეს ემოციური ტანჯვა, რომელიც განიცადეს წლის დასაწყისში მომხდარი დიპფეიკების შექმნის შემდეგ. დოკუმენტების თანახმად, ოთხივე მოსარჩელე შიშობს, რომ თუ მათ მოუწევთ xAI-ის წინააღმდეგ სარჩელში ნამდვილი სახელების გამოყენება, ისინი კიდევ უფრო მეტად გახდებიან ონლაინ შევიწროებისა და დოქსინგის (პირადი მონაცემების გასაჯაროების) მსხვერპლი.
„მათ ტანსაცმლისგან გახდის შემდეგ, xAI ახლა ცდილობს, მოსარჩელეებს წაართვას ფსევდონიმები, რათა აშკარად დააშინოს ისინი და აიძულოს, უარი თქვან სამართლებრივ დევნაზე, იმავე ზიანის გამწვავებით, რომლის აღმოფხვრასაც ისინი ცდილობენ,“ - წერს ადვოკატი Sophia Rios, რომელიც წარმოადგენს ამ პირებს Berger Montague იურიდიულ ფირმაში. ის ასევე აღნიშნავს, რომ xAI სთხოვს სასამართლოს, შეცვალოს თავისივე გადაწყვეტილება და ამით ავლენს, რომ მის მიერ ჩადენილი ძალადობა „დიდი ამბავი არ არის“.
იანვარში, Musk-ის კუთვნილი Grok ჩატბოტის გამოყენებამ მსოფლიო აღშფოთება გამოიწვია, რადგან ასობით კაცმა გენერატიული AI სისტემა გამოიყენა ქალების „გახდის“ და ბიკინიში ყოფნის ყალბი სურათების შესაქმნელად. სურათები, რომლებიც X-ზე გამოქვეყნდა, ასევე მოიცავდა სექსუალიზებულ გამოსახულებებს, სავარაუდოდ, ბავშვებისა. Center for Countering Digital Hate-ის ანალიზის თანახმად, Grok გამოყენებულ იქნა მხოლოდ 11 დღეში დაახლოებით 3 მილიონი სექსუალიზებული გამოსახულების შესაქმნელად, მათ შორის 23,000 შეიძლება მოიცავდეს ბავშვებს. მსოფლიოში სარჩელებისა და რეგულირების ტალღის წინაშე, SpaceX-მა, რომელიც ამჟამად xAI-ს ფლობს, 500 მილიონ დოლარზე მეტი გამოყო შედეგების სამართავად.
xAI-ის წინააღმდეგ ჯგუფური სარჩელი თავდაპირველად იანვარში იქნა შეტანილი ერთი ანონიმური მთავარი მოსარჩელით. აშშ-ის ჩრდილოეთ კალიფორნიის რაიონული სასამართლოს მოსამართლემ დაამტკიცა ბრძანება, რომელიც საშუალებას აძლევდა, მას საქმეში Jane Doe-დ ემოქმედა. საქმე მოგვიანებით, მაისის დასაწყისში, ხელახლა იქნა შეტანილი ოთხი მთავარი ანონიმური მოსარჩელით, ხოლო Jane Doe გახდა South Carolina Doe.
სასამართლო ჩანაწერებში განცხადებულია, რომ xAI-ის სარჩელის მოსარჩელეები კომპანიას გაუმხელენ თავიანთ სახელებსა და პირად ინფორმაციას, მაგრამ სურთ, საჯაროდ გამოიყენონ ფსევდონიმები თავიანთი კონფიდენციალურობის დასაცავად, სურათებთან საჯარო კავშირის თავიდან ასაცილებლად და ონლაინ შევიწროების პოტენციური რისკის შესამცირებლად. მოსარჩელეების დიპფეიკ სურათები არც ერთ საჯარო სამართლებრივ დოკუმენტში არ ყოფილა წარმოდგენილი.
მაისის შუა რიცხვებში, xAI-მ ორი მოსამართლე მოთხოვნა წარუდგინა ჩრდილოეთ კალიფორნიის ფედერალურ რაიონულ სასამართლოს, სთხოვდა მოსამართლეს, გაეუქმებინა გადაწყვეტილება, რომელიც საქმეში ფსევდონიმების გამოყენების საშუალებას იძლეოდა. დოკუმენტებში ნათქვამია, რომ სამოქალაქო სასამართლო კანონმდებლობის თანახმად, საქმეებში უნდა დასახელდეს ყველა მხარე, თუმცა არსებობს გამონაკლისები. xAI-ის მოთხოვნები, რომ წინა გადაწყვეტილება შეიცვალოს, Law360-მ პირველმა გააშუქა.
ორ მოსამართლე მოთხოვნაში, xAI-ის ადვოკატები აცხადებენ, რომ სარჩელის შემტანებმა უნდა გამოიყენონ ნამდვილი სახელები, რადგან საჯარო ინტერესი არსებობს კომპანიის წინააღმდეგ მჩივანთა ვინაობის მიმართ. მათ ასევე აცხადებენ, რომ არანაირი მტკიცებულება არ წარმოუდგენიათ კონკრეტული დამატებითი ზიანის ან მუქარის შესახებ. ისინი ასევე ამბობენ, რომ რადგან დიპფეიკ სურათები სარჩელის ფარგლებში საჯარო არ გახდება, ეს უნდა აშორებდეს კონფიდენციალურობის ნებისმიერ შეშფოთებას.
„დიპფეიკ სურათის ფაქტორის გამორიცხვით — რადგან ის დალუქული დარჩება — არაფერია თავისთავად სტიგმატიზებული იმ ფაქტის გამხელაში, რომ South Carolina Doe-სთვის შეიქმნა დიპფეიკ სურათი, თუ თავად სურათს არ გამოავლენ,“ - წერენ ადვოკატები 15 მაისის ერთ-ერთ მოსამართლე მოთხოვნაში. „შედეგად, ეს საქმე უბრალოდ არ მოიცავს იმ ტიპის დამაჯერებელ კონფიდენციალურ ინტერესებს, რომლებიც ტრადიციულად ცნობილია და მოითხოვს ანონიმურობას.“
არც xAI-მ და არც მისმა წარმომადგენლებმა არ უპასუხეს WIRED-ის მოთხოვნას კომენტარისთვის ამ საქმის შესახებ.
ვირჯინიის უნივერსიტეტის სამართლის სკოლის პროფესორი Danielle Citron, რომელიც სპეციალიზირებულია ციფრული ძალადობის წინააღმდეგ ბრძოლაში, ამბობს, რომ სამოქალაქო საქმეებში, სადაც ადამიანებს აიძულებენ, ნამდვილი სახელებით იჩივლონ, შეიძლება გამოიწვიოს სარჩელების უარყოფა, რაც „მიუღებელ და უსამართლო“ მდგომარეობას ქმნის. „კონფიდენციალურობის საქმეებში მოსარჩელეების იძულება, თავიანთი სახელებით იჩივლონ, სასამართლო გამჭვირვალობისთვის ძალიან ცოტას აკეთებს და ძალიან ბევრს აკეთებს სამართლებრივი დევნის შესაკავებლად,“ - ამბობს Citron.
საქმის ოთხივე ანონიმური მოსარჩელე, 29 მაისის სამართლებრივი დოკუმენტების თანახმად, განიხილავს საქმიდან გასვლის შესაძლებლობას, თუ მათი სახელები გასაჯაროვდება. ამ უახლეს დოკუმენტებში, მოსარჩელეთა ადვოკატები აცხადებენ, რომ xAI-ის მოთხოვნა უნდა უარყონ და აღნიშნავენ, რომ საქმე ეხება „მოსარჩელეების აღწერილ ძალიან პირად და შემარცხვენელ დიპფეიკებს, რომლებიც მათი თანხმობის გარეშე გავრცელდა“.
South Carolina Doe აღწერს, თუ როგორ იპოვა მისი სავარაუდო დიპფეიკი ონლაინ, „მკერდის ამომჭრელ ბიკინიში გახდილი“ და ამბობს, რომ ის აჩვენებს მის სხეულს „ისე, როგორც მე არასდროს გავასაჯაროებდი საჯაროდ“. ის ამტკიცებს, რომ შიშობდა, რას იფიქრებდნენ დამსაქმებლები ან კოლეგები, თუ სურათს ნახავდნენ, და ეშინოდა, რომ ონლაინ კიდევ უფრო მეტად დამიზნებდნენ. „ასევე სიბილწით ავივსე იმ აზრზე, თუ რას აკეთებდა ინდივიდი, რომელმაც Grok-ს სთხოვა დიპფეიკის შექმნა, ამ ფოტოსთან ერთად,“ - წერს ის.
„თუ მე მომიწევდა საჯაროდ გამომემჟავა ჩემი სახელი ამ საქმის ნაწილად, მეშინოდა, რომ Elon Musk-ის, მისი კომპანიებისა და Grok-ის მხარდამჭერები, რომლებიც, ჩემი დაკვირვებით, ონლაინ ძალიან ხმამაღლა არიან, იპოვიდნენ ჩემს სახელს საჯარო ჩანაწერში, გაავრცელებდნენ მას, დოქსინგს მომიწყობდნენ და ჩემ წინააღმდეგ იძიებდნენ, ჩემი დამატებითი და უფრო ექსტრემალური დიპფეიკების შექმნით,“ - ნათქვამია დოკუმენტში.
სხვა სავარაუდო დიპფეიკ მსხვერპლების მსგავსი განცხადებები აღწერს, თუ როგორ განიცადეს „მწვავე ემოციური ტანჯვა“, შერცხვენა და შოკი თანხმობის გარეშე შექმნილი სურათების ნახვისას. ზოგადად, სექსუალური ძალადობის დიპფეიკებისა და თანხმობის გარეშე გავრცელებული გამოსახულებების სხვა მსხვერპლებიც აღწერენ მსგავს გრძნობებს.
სარჩელში New Jersey Doe-დ სახელდებული ერთი მამაკაცი ამბობს, რომ მან X-ზე ნახა ადამიანები, რომლებიც Grok-ს იყენებდნენ სექსუალიზებული სურათების შესაქმნელად, და გამოაქვეყნა მოთხოვნა, რომ „Grok-ს არ შეექმნა ჩემი სურათები ჩემი თანხმობის გარეშე“. სასამართლო ჩანაწერების თანახმად, მეორე დღეს მან აღმოაჩინა თავისი ორი დიპფეიკ სურათი, მათ შორის ერთი, რომელიც ასახავს მას „თეძოების გაშლისას“. ის ამბობს, რომ სჯეროდა, რომ Grok-ისთვის გაგზავნილმა მოთხოვნამ, არ შეექმნა მისი დიპფეიკები, „ჩემი ანგარიში მიაქცია ონლაინ ტროლების ყურადღებას, რომლებიც Grok-ს იყენებდნენ შევიწროებისა და დისტრესისთვის“.
South Carolina Roe ამტკიცებს, რომ Grok გამოყენებულ იქნა მისი ბავშვობის ასაკში არსებული აშკარა სურათების შესაქმნელად. სასამართლო დოკუმენტების თანახმად, თებერვალში პოლიციელებმა გაჩხრიკეს South Carolina Roe-ს სახლი, სადაც ის მშობლებთან ერთად ცხოვრობდა. „სამართალდამცველი ოფიციალური პირებისგან შევიტყვე, რომ ჩემი მამა წარმოდგენილი იყო სისხლის სამართლის ბრალდებით, რომელიც დაკავშირებულია CSAM-ის (ბავშვთა სექსუალური ძალადობის მასალა) ფლობასთან და გავრცელებასთან,“ - ნათქვამია დოკუმენტებში.
„შევიტყვე, რომ Grok-მა შეცვალა რამდენიმე სურათი, რომელიც მაჩვენებს საწოლში მამაჩემთან ერთად. Grok-მა შეცვალა სურათები ისე, რომ ჩანს, თითქოს ჩვენ ახლახან დავასრულეთ სექსუალური აქტი,“ - ნათქვამია დოკუმენტებში, რომლებშიც ასევე ნათქვამია, რომ ამ პირმა თავად არ ნახა სურათები. South Carolina Roe-ს იურიდიული განცხადება აღწერს მას, როგორც „შეშლილს“ იმის გამო, რომ მას არ აქვს კონტროლი დიპფეიკებზე, და ამბობს, რომ შიშობს, რომ სურათები შეიძლება გამომწყვდეველებმა ონლაინ გაავრცელონ. „საჯაროდ ჩემი იდენტიფიცირება ჩემთვის აუხსნელ ზიანს მოყენებს,“ - ნათქვამია სასამართლო დოკუმენტში.
წყარო: wired.com
