Microsoft-ის აღმასრულებელი დირექტორი სატია ნადელა ტექნოლოგიური სექტორის იმ ლიდერთა რიგებს შეუერთდა, რომლებიც ხელოვნური ინტელექტის (AI) უსაფრთხოების გაუმჯობესების გზებს აქტიურად განიხილავენ.
სოციალურ ქსელ X-ზე გამოქვეყნებულ პოსტში ნადელამ აღნიშნა, რომ დროა, გადავაფასოთ AI-ის „ნდობის არქიტექტურა“. მისი თქმით, ჩვენ არ შეგვიძლია, სუპერინტელექტს „შავი ყუთების“ ერთობლიობად ვუყუროთ და უპირობოდ მივიღოთ ან უარვყოთ მისი რეკომენდაციები თუ ქმედებები.
ნადელას ხედვით, აუცილებელია მოდელის გამიჯვნა იმ მექანიზმისგან, რომელიც მის მუშაობას მართავს, ასევე გარე კონტროლისა და უსაფრთხოების ზომების დანერგვა. მან ხაზი გაუსვა შემდეგ პრინციპებს:
- ყველა მნიშვნელოვანი ქმედება უნდა იყოს დოკუმენტირებული ადამიანისთვის გასაგები და ხელშეუხებელი მტკიცებულებებით.
- სისტემას უნდა ჰქონდეს „საგანგებო დამუხრუჭების“ ფუნქცია, რაც უფლებამოსილ პირს საშუალებას მისცემს, ნებისმიერ დროს შეაჩეროს ან გამორთოს მოდელი მუშაობის პროცესში.
- უსაფრთხოების სტრატეგია უნდა ეფუძნებოდეს დაშვებას, რომ მოდელი შესაძლოა კომპრომეტირებული იყოს, ამიტომ მისი შეზღუდვა თავიდანვე უნდა მოხდეს.
ნადელას ეს განცხადება იმ ფონზე გაკეთდა, როდესაც წამყვანი AI კომპანიები სულ უფრო ხშირად აღიარებენ მოდელებზე კონტროლის დაკარგვის შემთხვევებს. მსგავსი ინიციატივით ცოტა ხნის წინ Anthropic-ის აღმასრულებელმა დირექტორმა დარიო ამოდეიმც გამოვიდა, რომელმაც AI-ის უფრო ფრთხილი განვითარების გეგმა წარადგინა.
წყარო: techcrunch.com
