ხელოვნური ინტელექტის ინდუსტრიაში კომპანიები სულ უფრო მეტ ყურადღებას აქცევენ AI-ის დანერგვის მაღალ ხარჯებს და ცდილობენ ოპტიმიზაციის გზების პოვნას. მიუხედავად იმისა, რომ open source მოდელები ტოკენების დაბალ ფასს გვთავაზობენ, კონკრეტული ამოცანისთვის შესაფერისი მოდელის შერჩევა ხშირად რთული პროცესია.
მარკეტინგული AI ხელსაწყოების მწარმოებელმა კომპანიამ, Writer-მა, ახალი ფლაგმანური მოდელი Palmyra X6 წარადგინა. Z.ai-ის GLM-5.2 მოდელზე დაფუძნებული ეს სისტემა მომხმარებლებს საშუალებას აძლევს, მიიღონ მაღალი ხარისხის შედეგები მნიშვნელოვნად დაბალ ფასად. კომპანიის შეფასებით, ახალი მოდელი და განახლებული ინფრასტრუქტურა საბაზისო ამოცანების შესრულების ხარჯებს 50%-მდე შეამცირებს.
Writer-ის აღმასრულებელმა დირექტორმა, May Habib-მა აღნიშნა, რომ ბიზნესს აღარ აინტერესებს მხოლოდ ტექნიკური ბენჩმარკები; მათ სურთ ხარჯების სტაბილიზაცია, რასაც ბაზარზე არსებული დიდი ლაბორატორიები ხშირად ვერ უზრუნველყოფენ. ახალი მიდგომა ფოკუსირებულია კომპლექსურ, მრავალეტაპიან ამოცანებზე, რომლებიც ნაკლები ტოკენის გამოყენებით სრულდება.
კვლევებმა აჩვენა, რომ harness-ის (ინფრასტრუქტურული გარსის) ოპტიმიზაცია ხშირად უფრო ეფექტური გზაა ხარჯების შესამცირებლად, ვიდრე მხოლოდ მოდელის შეცვლა. Writer-ის კვლევის თანახმად, ამ მიდგომამ ხარჯები საშუალოდ 40%-ით შეამცირა. კომპანია აგრძელებს მოდელ-აგნოსტიკურ მიდგომას, რაც კლიენტებს საშუალებას აძლევს, Palmyra X6 გამოიყენონ სხვა მოდელებთან ერთად, Azure-ის ან Amazon Bedrock-ის პლატფორმების მეშვეობით.
წყარო: techcrunch.com
