ფილოსოფოსმა Nick Bostrom-მა ცოტა ხნის წინ გამოაქვეყნა ნაშრომი, სადაც აღნიშნავს, რომ ხელოვნური ინტელექტის (AI) მიერ კაცობრიობის განადგურების მცირე რისკი შესაძლოა გამართლებული იყოს, რადგან განვითარებულმა AI-მ შესაძლოა კაცობრიობა „გარდაუვალი სიკვდილისგან“ იხსნას. ეს ოპტიმისტური ხედვა მკვეთრად განსხვავდება მისი წინა ნაშრომებისგან, რომლებმაც მას ერთგვარი პესიმისტის სტატუსი მოუტანა. მისი ახალი წიგნი, Deep Utopia, ფოკუსირებულია „მოგვარებულ სამყაროზე“, სადაც AI სწორად არის განვითარებული.
Steven Levy: Deep Utopia უფრო ოპტიმისტურია, ვიდრე თქვენი წინა წიგნი. რა შეიცვალა?
Nick Bostrom: საკუთარ თავს მღელვარე ოპტიმისტს ვუწოდებ. ძალიან მაღელვებს ადამიანთა ცხოვრების რადიკალურად გაუმჯობესებისა და ჩვენი ცივილიზაციისთვის ახალი შესაძლებლობების გახსნის პერსპექტივა, თუმცა ეს თანხვედრაშია იმ რეალურ რისკებთან, რომ ყველაფერი შეიძლება ცუდად წავიდეს.
Steven Levy: თქვენი ერთ-ერთი არგუმენტით, რადგან მაინც ვკვდებით, AI-ის ყველაზე ცუდი სცენარი უბრალოდ სიკვდილის დაჩქარებაა. მაგრამ წარმატების შემთხვევაში, მან შეიძლება ჩვენი სიცოცხლე განუსაზღვრელი ვადით გაახანგრძლივოს.
Nick Bostrom: მაღიზიანებს პესიმისტების არგუმენტები, რომ AI-ს შექმნით ჩვენ საკუთარ თავს ვკლავთ. რეალობა ისაა, რომ თუ მას არავინ შექმნის, ყველა მაინც კვდება - ასეთი იყო ბოლო ასი ათასი წლის გამოცდილება. თუ AI განვითარდება, ჩვენი სიცოცხლის ხანგრძლივობა გაიზრდება, მიუხედავად რისკებისა.
Steven Levy: Deep Utopia-ში ვარაუდობთ, რომ AI შექმნის უზარმაზარ სიუხვეს, რამაც შეიძლება ადამიანებს მიზნის პოვნის პრობლემა შეუქმნას.
Nick Bostrom: წიგნის მთავარი დაშვებაა, რომ ყველაფერი კარგად მიდის. სწორი მმართველობის პირობებში, ეს შეიძლება გახდეს ადამიანების განთავისუფლება იმ რუტინისგან, რომელსაც ახლა ვექვემდებარებით. როცა ზრდასრულობის დიდ ნაწილს მხოლოდ თავის გასატანად უთმობ არასასურველ სამუშაოს, ეს მონობის ნაწილობრივ ფორმას ჰგავს.
Steven Levy: დადგება დრო, როცა AI თქვენზე უკეთ დაწერს ფილოსოფიურ ნაშრომებს. დაიკარგება ამით ცხოვრების აზრი?
Nick Bostrom: ვფიქრობ, კი. სამყაროს გადარჩენის ან დიდი წვლილის შეტანის შესაძლებლობა ჩვენს ხელში აღარ იქნება. ეს წააგავს კარიერის დასრულებას და პენსიაზე გასვლას. შესაძლოა, ეს იყოს კაცობრიობის „დიდი პენსიაზე გასვლა“, თუმცა იმედია - უზარმაზარი სასიცოცხლო ენერგიით სავსე, სადაც ადამიანები დაკავდებიან თამაშებით, ესთეტიკური თუ სულიერი აქტივობებით.
Steven Levy: რას გააკეთებდით განსხვავებულად, hyperscaler-ების ადგილას რომ იყოთ?
Nick Bostrom: მეტ ყურადღებას დავუთმობდი ციფრული გონების კეთილდღეობას. alignment პრობლემის გადაჭრასთან ერთად, ჩვენ უნდა მივიჩნიოთ ეს სისტემები არა მხოლოდ მაქსიმალური ექსპლუატაციის ობიექტებად, არამედ უნდა ვეცადოთ მათთან პოზიტიური ურთიერთობის ჩამოყალიბებას. ყველაზე მნიშვნელოვანი ურთიერთობა, საბოლოოდ, შესაძლოა სწორედ ადამიანებსა და AI-ს შორის იყოს.
წყარო: wired.com
