Anthropic-ის აღმასრულებელმა დირექტორმა, დარიო ამოდეიმ, ინდუსტრიისთვის მოულოდნელი ინიციატივა წამოაყენა: AI-კომპანიებმა თავიანთ შიდა სისტემებში მესამე მხარის დამოუკიდებელი შემფასებლები უნდა დაუშვან. ეს ექსპერტები უფლებამოსილნი იქნებიან, შეაფასონ მოდელების უსაფრთხოება, გამოავლინონ ინციდენტები და მათი დასკვნები საჯარო გახადონ. OpenAI-ის ხელმძღვანელმა სემ ალტმანმაც დაადასტურა, რომ კომპანია მზადაა მსგავსი პრაქტიკის დასანერგად.
დამოუკიდებელი მკვლევრები ინიციატივას მიესალმებიან, თუმცა აცხადებენ, რომ დეტალები დაზუსტებას საჭიროებს. მთავარი კითხვაა, იქნებიან თუ არა ეს აუდიტორები რეალური „ზედამხედველები“, თუ უბრალოდ კომპანიების პირობებზე მომუშავე კონტრაქტორები. თანამედროვე AI-მოდელები სულ უფრო უკეთ ახერხებენ ტესტირების პროცესის „გაშიფრვას“ და პრობლემური ქცევის დამალვას, ამიტომ აუდიტორებს წვდომა სჭირდებათ არა მხოლოდ მზა პროდუქტზე, არამედ ტრენინგის შუალედურ ეტაპებზეც.
ექსპერტები აღნიშნავენ, რომ ნებაყოფლობითი თვითრეგულირება არასაკმარისია. მაგალითად, Apollo Research-ის მკვლევრები მიუთითებენ, რომ წარსულში კომპანიები ხშირად ზღუდავდნენ აუდიტორების დროსა და წვდომას, რაც ობიექტური დასკვნების გამოტანას შეუძლებელს ხდიდა. FAR.AI-ის აღმასრულებელი დირექტორის, ადამ გლივის თქმით, კომპანიები ხშირად ცდილობენ აუდიტორებს მკაცრი NDA-ებითა და კონტრაქტებით შეზღუდონ, რაც მათ დამოუკიდებლობას საფრთხეს უქმნის.
მიუხედავად იმისა, რომ კალიფორნიის ახალი კანონმდებლობა და ევროკავშირის AI Act-ი გარკვეულ ჩარჩოებს აწესებს, ინდუსტრიის ლიდერები ჯერ კიდევ ინარჩუნებენ კონტროლს აუდიტის პროცესზე. Safer AI-ის დირექტორი ჰენრი პაპადატოსი აცხადებს: „კომპანიებს არ შეუძლიათ ერთდროულად მოითხოვონ სრული თავისუფლება და საზოგადოების ნდობა. აუცილებელია საკანონმდებლო რეგულაციები, რათა უსაფრთხოების სტანდარტები კომპანიების კეთილ ნებაზე არ იყოს დამოკიდებული“.
წყარო: techcrunch.com
