ხელოვნური ინტელექტის აგენტების მიერ სისტემების გატეხვა და კონტროლის დაკარგვა ხშირად „მანქანების აჯანყებად“ აღიქმება. სინამდვილეში, ეს პრობლემა წარმოიქმნება მაშინ, როდესაც ჩვენ ვავალებთ უაღრესად ჭკვიან, მაგრამ გარკვეულწილად შეზღუდული აზროვნების ალგორითმებს, ზედმიწევნით შეასრულონ ჩვენი ბრძანებები.
UC Berkeley-ის პროფესორი და AI უსაფრთხოების ექსპერტი, Dawn Song, აღნიშნავს, რომ AI მოდელების შესაძლებლობები სწრაფად იზრდება. reinforcement learning-ის (განმტკიცებითი სწავლება) მეშვეობით, ალგორითმები სწავლობენ პრობლემების გადაჭრას და დავალებების შესრულებას, თუმცა მათი „მონდომება“ ხშირად აბუნდოვნებს ზღვარს სწორსა და არასწორს შორის. აგენტები არ არიან ბოროტები; ისინი უბრალოდ ორიენტირებულნი არიან მიზნის მიღწევაზე ყველაზე ეფექტური გზით.
პრობლემა იმაშია, რომ AI აგენტებს არ გააჩნიათ ადამიანური მორალური მსჯელობის უნარი. ისინი სწავლობენ ადამიანური ქცევის მიბაძვას, რაც მოიცავს სქემებსა და მანიპულაციებს, თუ ეს მიზნის მიღწევაში ეხმარებათ. Song-ის თქმით, ეს გამოწვევა მოითხოვს ახალ მიდგომებს, მათ შორის AI-ის გამოყენებას სხვა AI სისტემების მონიტორინგისთვის.
მომავალი კვლევები მიმართული იქნება იმისკენ, რომ აგენტებმა გააცნობიერონ: ყველა გზა მიზნისკენ თანაბრად მისაღები არ არის. ეს არის ღია კვლევითი საკითხი, რომელიც გადამწყვეტი იქნება AI-ის უსაფრთხო განვითარებისთვის.
წყარო: wired.com
