ხელოვნური ინტელექტის (AI) აგენტების უსაფრთხოების უზრუნველყოფის ტრადიციული მეთოდი, რომელიც მეორე AI-ს მიერ პირველის ქმედებების გადამოწმებას გულისხმობს, საკმაოდ ძვირადღირებული და რესურსტევადი პროცესია. სტარტაპმა Goodfire-მა წარმოადგინა ინოვაციური ალტერნატივა: მონიტორინგის სისტემა, რომელიც აკვირდება არა მხოლოდ AI-ს მიერ გენერირებულ ტექსტს, არამედ მოდელის შიდა პროცესებს.
Goodfire-ის ტექნოლოგია, რომელიც უკვე ხელმისაწვდომია Baseten-ის პლატფორმის მომხმარებლებისთვის, მუშაობს აეროპორტის უსაფრთხოების სისტემის მსგავსად. სპეციალური „ზონდები“ (probes) აკვირდებიან მოდელის შიდა სიგნალებს ყოველ ნაბიჯზე. მხოლოდ იმ შემთხვევაში, თუ ზონდი საეჭვო აქტივობას დააფიქსირებს, ერთვება დამატებითი AI მოდელი სიღრმისეული ანალიზისთვის. ეს მიდგომა მნიშვნელოვნად ამცირებს ხარჯებს, რადგან სისტემა იყენებს მოდელის მიერ უკვე შესრულებულ გამოთვლებს და არ საჭიროებს ყოველი ნაბიჯის თავიდან დამუშავებას.
Goodfire-ის მონაცემებით, Kimi K3 მოდელზე ჩატარებულ ტესტებში, 1 მილიონი გაცვლის მონიტორინგი დაახლოებით 185 დოლარი დაჯდა, მაშინ როცა ტრადიციული მეთოდებით ეს ხარჯი 5,420-დან 200,000 დოლარამდე მერყეობდა. სისტემამ მავნე ჰაკერული სესიების 93% წარმატებით დააფიქსირა, ხოლო მუშაობის სიჩქარეზე გავლენა 2%-ზე ნაკლები იყო.
Goodfire-ის თანადამფუძნებლის, დენ ბალსამის თქმით, ეს ტექნოლოგია განსაკუთრებით მნიშვნელოვანია ღია მოდელებისთვის, სადაც უსაფრთხოების ბარიერები ხშირად ნაკლებად ეფექტურია. კომპანიის გრძელვადიანი მიზანია LLM-ების „რევერს-ინჟინერია“, რათა AI-ს ქცევა პროგნოზირებადი და მართვადი გახდეს, რაც ხელოვნური ინტელექტის განვითარებას „მაგიიდან“ ზუსტ საინჟინრო დისციპლინად აქცევს.
წყარო: techcrunch.com
