ჰელენ ტონერი, ჯორჯთაუნის უნივერსიტეტის უსაფრთხოებისა და განვითარებადი ტექნოლოგიების ცენტრის (CSET) აღმასრულებელი დირექტორი, OpenAI-ის იმ ოთხი დირექტორიდან ერთ-ერთი იყო, რომელმაც სემ ალტმანის თანამდებობიდან გათავისუფლებას დაუჭირა მხარი. ეს მოვლენა, რომელიც ტექნოლოგიურ სამყაროში „ბლიპის“ სახელითაა ცნობილი, კომპანიის სტრუქტურის სრულ გადახედვასა და ახალი დირექტორთა საბჭოს ჩამოყალიბებას დაედო საფუძვლად.
ტონერის თქმით, OpenAI-ის არაკომერციული საბჭოს მთავარი მისია იყო იმის უზრუნველყოფა, რომ კომპანიას უსაფრთხო AI-ის შექმნის პრიორიტეტი მოგებაზე მაღლა დაეყენებინა. თუმცა, როდესაც საბჭომ რეალური კონტროლის მექანიზმების ამოქმედება სცადა, სისტემამ ვერ იმუშავა. ტონერი ხაზს უსვამს, რომ თუ მომავლის იმედები მხოლოდ ცალკეული პირების კეთილსინდისიერებაზე იქნება დამოკიდებული, ეს სერიოზულ საფრთხეს უქმნის ინდუსტრიას.
დღეს AI უსაფრთხოების საკითხი გლობალური დღის წესრიგის ნაწილია. მიუხედავად იმისა, რომ წამყვანი ლაბორატორიების ხელმძღვანელები რეგულაციების აუცილებლობაზე საუბრობენ, არსებული მიდგომები ხშირად ნებაყოფლობით შეთანხმებებს ეყრდნობა, რაც ტონერის აზრით, არასაკმარისია. მისი თქმით, ვაშინგტონში პოლიტიკოსებს შორის AI-ის მიმართ ინტერესი იზრდება და ისინი სულ უფრო მეტად ცდილობენ ტექნოლოგიური ნიუანსების გააზრებას, თუმცა მთავარი გამოწვევა რჩება იმის განსაზღვრა, თუ როგორ უნდა მოხდეს ამ რისკების ეფექტური მართვა.
ტონერი აღნიშნავს, რომ სილიკონის ველზე გავრცელებული იდეა „რეკურსიული თვითგანვითარების“ (RSI) შესახებ, რომელიც სუპერინტელექტის შექმნას ისახავს მიზნად, ხშირად არასწორად აღიქმება. მისი აზრით, მნიშვნელოვანია, რომ პოლიტიკოსებმა და საზოგადოებამ გააცნობიერონ, რომ ეს კომპანიები არ არიან მხოლოდ სამომხმარებლო აპლიკაციების შემქმნელები, არამედ ორგანიზაციები, რომლებიც მიზანმიმართულად მიიწევენ ტექნოლოგიური გარღვევებისკენ, რაც ფუნდამენტურ ცვლილებებს მოითხოვს მმართველობისა და უსაფრთხოების კუთხით.
წყარო: theverge.com
