Anthropic-მა შეცვალა საკამათო პოლიტიკა, რომელიც ფარულად ზღუდავდა კონკურენტი კომპანიების მიერ Claude Fable 5-ის გამოყენებას სხვა AI მოდელების შესაქმნელად. გადაწყვეტილება მას შემდეგ შეიცვალა, რაც ტექნოლოგიურმა საზოგადოებამ კომპანიის ქმედება მკაცრად გააკრიტიკა.
კომპანიის განცხადებით, მათ არასწორი მიდგომა აირჩიეს და ბოდიშს იხდიან გამჭვირვალობის ნაკლებობისთვის. თავდაპირველად, Anthropic გეგმავდა მოდელის მუშაობის შეუმჩნევლად გაუარესებას იმ მკვლევრებისთვის, რომლებიც Claude-ს ახალი AI სისტემების განსავითარებლად იყენებდნენ. ეს ქმედება მიზნად ისახავდა კონკურენციის შეზღუდვას, თუმცა კრიტიკოსების აზრით, ეს ნაბიჯი AI უსაფრთხოების კვლევებსაც აფერხებდა.
ექსპერტები, მათ შორის Prime Intellect-ის წარმომადგენლები, აღნიშნავენ, რომ მსგავსი „ფარული საბოტაჟი“ ძირს უთხრის ნდობას და ხელს უშლის დამოუკიდებელ მკვლევრებს, შეაფასონ მოდელების უსაფრთხოება და ეფექტურობა. Anthropic-ის არგუმენტით, ეს ზომები მიზნად ისახავდა უცხოური მოწინააღმდეგეების მიერ ტექნოლოგიის ბოროტად გამოყენების პრევენციას, თუმცა ახლა კომპანია გადავიდა გამჭვირვალე მოდელზე: თუ მომხმარებლის მოთხოვნა შეზღუდვებს ეწინააღმდეგება, სისტემა ამის შესახებ პირდაპირ აცნობებს მას.
მიუხედავად იმისა, რომ ახალი მიდგომა უფრო გამჭვირვალეა, Anthropic აცხადებს, რომ კვლავ აგრძელებს მუშაობას კლასიფიკატორების დახვეწაზე, რათა თავიდან აიცილოს უსაფრთხოების სისტემების მიერ ლეგიტიმური კვლევითი მოთხოვნების არასწორი დაბლოკვა.
წყარო: wired.com
