ხელოვნური ინტელექტის ლაბორატორიამ PrismML, რომელიც Caltech-ის მკვლევრების მიერ დაარსდა და UC Berkeley-ის პროფესორ იონ სტოიკას კონსულტაციებს ეყრდნობა, შექმნა თავისი მცირე ზომის ენობრივი მოდელების ვერსია Qualcomm-ის Snapdragon ჩიპებზე მომუშავე ჭკვიანი სათვალეებისთვის.
Qualcomm-ის Snapdragon Summit-ზე კომპანიამ წარმოადგინა PrismML-ის 1-ბიტიანი Bonsai LLM, რომელიც ლოკალურად მუშაობს Snapdragon AR1 Gen 1 პლატფორმაზე აგებულ ჭკვიან სათვალეებში. მოდელის მთავარი უპირატესობა მისი კომპაქტურობაა: ის არსებულ მოდელებს 4-ჯერ ამცირებს, თუმცა სტანდარტულ ტესტებში თითქმის სრულად ინარჩუნებს წარმადობას.
ჭკვიანი სათვალეებისთვის განკუთვნილი 2-მილიარდიანი პარამეტრის მქონე მოდელი ოპტიმიზებულია მხედველობისა და ენის დამუშავებისთვის, რაც მომხმარებელს საშუალებას აძლევს, რეალურ დროში მიიღოს ინფორმაცია იმის შესახებ, თუ რას უყურებს.
PrismML-ის მიზანია ღია წონის (open-weight) AI-ის განვითარება, რომელიც მოწყობილობებზე ლოკალურად იმუშავებს და არსებულ გამოთვლით რესურსებს მაქსიმალურად ეფექტურად გამოიყენებს. სტარტაპი ამ მიდგომას სთავაზობს ალტერნატივად იმ კომპანიებს, რომლებსაც არ სურთ დამოკიდებულნი იყვნენ დახურულ AI ლაბორატორიებზე და მათ მუდმივად მზარდ მოთხოვნებზე გამოთვლითი სიმძლავრის მიმართ. მიუხედავად ამ ტექნოლოგიური მიღწევისა, PrismML-ის მხარდამჭერი კონკრეტული ჭკვიანი სათვალეების კომერციული გამოშვების შესახებ ინფორმაცია ჯერჯერობით არ გავრცელებულა.
წყარო: techcrunch.com
