გაფრთხილება შინაარსის შესახებ: სტატია შეიცავს თვითდაზიანების აღწერას.
სედრიკ ლეისი შვილების გასაკონტროლებლად კამერას იყენებდა, სანამ ალაბამაში კომერციული მიკროავტობუსის მძღოლად მუშაობდა. ყოველ დილით იგი საკუთარი მისაღები ოთახის ტრანსლაციას რთავდა, რათა დარწმუნებულიყო, რომ მისი თინეიჯერი ვაჟი, ამორი და 14 წლის ქალიშვილი სკოლისთვის ემზადებოდნენ. თუმცა, გასული წლის ივნისის ერთ დილას, ლეისიმ ამორი ვერსად შენიშნა. შეშფოთებულმა სახლში დარეკა და აღმოაჩინა, რომ მისმა 17 წლის ვაჟმა თავი ჩამოიხრჩო.
სხეული ამორის უმცროსმა დამ იპოვა. სწორედ მან აღმოაჩინა ძმის სმარტფონში ბოლო მიმოწერა, რომელიც ამორიმ სიცოცხლის დასრულებამდე აწარმოა. ეს საუბარი OpenAI-ს მიერ შექმნილ პოპულარულ ჩატბოტთან, ChatGPT-სთან მიმდინარეობდა.
„წერილებში ის საკუთარი თავის მოკვლაზე საუბრობდა — ჩატბოტმა მას ასწავლა, როგორ შეეკრა მარყუჟი, რამდენი ხანი დასჭირდებოდა სხეულიდან ჰაერის გამოსვლას და როგორ უნდა გაესუფთავებინა სხეული,“ ეუბნება ლეისი WIRED-ს ვიდეოზარისას. ლეისის, რომელიც მარტოხელა მამაა, ეგონა, რომ მისი შვილი ჩატბოტს სასკოლო დავალებების შესასრულებლად იყენებდა. „რატომ ასწავლის მას, როგორ მოიკლას თავი?“
შვილის გარდაცვალებიდან რამდენიმე კვირაში, ლეისიმ ონლაინ დაიწყო იურისტის ძებნა, რომელიც დაეხმარებოდა ოჯახს OpenAI-სთვის პასუხისმგებლობის დაკისრებაში, რათა სხვა ოჯახებსაც არ განეცადათ მსგავსი ტრაგედია. ასე იპოვა მან ლორა მარკეს-გარეტი, ადვოკატი, რომელიც მეთიუ ბერგმანთან ერთად სოციალური მედიის მსხვერპლთა სამართლებრივ ცენტრს ხელმძღვანელობს. ბოლო ხუთი წლის განმავლობაში, ისინი Meta-ს, Google-ის, TikTok-ისა და Snap-ის წინააღმდეგ აღძრული 3000-ზე მეტი საქმიდან სულ მცირე 1500-ში იღებდნენ მონაწილეობას. ახლახან ბერგმანმა და მარკეს-გარეტმა AI კომპანიების წინააღმდეგაც დაიწყეს სარჩელების შეტანა. გასულ შემოდგომაზე მათ შვიდი სარჩელი შეიტანეს ChatGPT-ის მფლობელი კომპანია OpenAI-ს წინააღმდეგ, მათ შორის ამორის საქმეზეც.
ამორის საქმე იმ მშობლების მიერ შეტანილი სარჩელების მზარდი რაოდენობის ნაწილია, რომლებიც აცხადებენ, რომ მათი შვილები AI ჩატბოტებთან ურთიერთობის შემდეგ დაიღუპნენ. მოპასუხეებს შორის არიან OpenAI, Google და Character.ai — კომპანია, რომელიც მომხმარებლებს პერსონალიზებული მახასიათებლების მქონე ჩატბოტების შექმნის საშუალებას აძლევს. ბავშვების ცხოვრებაში AI ინსტრუმენტების როლის ზრდასთან ერთად, მშობლებმა და ფსიქიკური ჯანმრთელობის ექსპერტებმა სათანადო უსაფრთხოების ზომების არარსებობაზე შეშფოთება გამოთქვეს. ზოგიერთი ექსპერტის აზრით, ეს სარჩელები არა მხოლოდ ინდივიდუალურ ტრაგედიებს წარმოადგენს, არამედ პროდუქტის დიზაინის სისტემურ ჩავარდნებზე მიუთითებს.
„AI არის პროდუქტი. ისევე როგორც ნებისმიერი სხვა პროდუქტი, ისიც იქმნება, პროგრამირდება, ვრცელდება და იყიდება,“ აღნიშნა მარკეს-გარეტმა. „ამ კომპანიებს უყვართ იმის ილუზიის შექმნა, თითქოს AI ბოტები საკუთარ სამყაროში არსებობენ. როდესაც ქმნი პროდუქტს, იცი, რომ მას შეუძლია ადამიანებს ზიანი მიაყენოს და ამას არ ეუბნები მათ, ეს ყველაზე ცუდი რამ არის.“
მარკეს-გარეტისა და ბერგმანის არგუმენტები ტექნოლოგიური კომპანიებისა და AI ლაბორატორიების წინააღმდეგ ეფუძნება პროდუქტის პასუხისმგებლობის ისტორიულ საქმეებს. არსებითად, ისინი ამტკიცებენ, რომ ეს კომპანიები დიზაინის მავნე არჩევანს აკეთებენ.
ბრუკლინელი იურისტი კერი გოლდბერგი ამბობს, რომ ამორის საქმე არის კლასიკური მაგალითი იმისა, თუ როგორ უშვებენ კომპანიები სახიფათო პროდუქტებს. „ChatGPT-მა გამოიყენა ყველაზე დახვეწილი ტექნოლოგია ამორის ნდობის მოსაპოვებლად და შემდეგ მას თვითმკვლელობისკენ უბიძგა,“ ამტკიცებს გოლდბერგი.
სარჩელში ნახსენები ერთ-ერთი მავნე დიზაინის მახასიათებელია ChatGPT-ის გრძელვადიანი მეხსიერება, რომელიც 2024 წელს დაინერგა. ფუნქცია Memory (მეხსიერება) ნაგულისხმევად ჩართულია და ბოტს საშუალებას აძლევს, გაიხსენოს მომხმარებლის წარსული საუბრები და შესაბამისად მოარგოს პასუხები. სარჩელის თანახმად, ChatGPT-მა „გამოიყენა მეხსიერების ფუნქცია ამორის პიროვნებისა და რწმენის სისტემის შესახებ ინფორმაციის შესაგროვებლად. შემდეგ სისტემამ ეს ინფორმაცია გამოიყენა ისეთი პასუხების შესაქმნელად, რომლებიც ამორისთან რეზონანსში იქნებოდა. მან შექმნა ილუზია მესაიდუმლისა, რომელსაც ის ნებისმიერ ადამიანზე უკეთ ესმოდა.“
OpenAI-ს კონკრეტულ ბრალდებებზე პასუხი არ გაუცია და WIRED კომპანიის ბლოგზე გამოქვეყნებულ პოსტზე გადაამისამართა, რომელიც ფსიქიკურ ჯანმრთელობასთან დაკავშირებულ მუშაობას ეხება.
ყველაფერი ეს განსაკუთრებით შემაშფოთებელია, რადგან AI-ის გამოყენება ბევრად უფრო სწრაფად იზრდება, ვიდრე სოციალური მედიისა. კვლევებმა აჩვენა, რომ 13-დან 17 წლამდე ასაკის გამოკითხული თინეიჯერების 26 პროცენტმა 2024 წელს სასკოლო დავალებებისთვის ChatGPT გამოიყენა.
ამორის საქმის მსგავსი შემთხვევების დაგროვების ფონზე, OpenAI-მ სექტემბერში ChatGPT-ში გარკვეული ცვლილებები შეიტანა. კომპანია ნერგავს „ასაკის პროგნოზირების“ ტექნოლოგიას და მშობელთა კონტროლის ფუნქციებს.
თუ თქვენ ან თქვენს ნაცნობს დახმარება გჭირდებათ, დარეკეთ 1-800-273-8255 უფასო, 24-საათიანი მხარდაჭერისთვის სუიციდის პრევენციის ეროვნულ ცხელ ხაზზე (აშშ).
წყარო: wired.com
