მას შემდეგ, რაც Amazon-ის გენერალურმა დირექტორმა, ენდი ჯასიმ, OpenAI-სთან AWS-ის 50 მილიარდიანი საინვესტიციო გარიგების შესახებ განაცხადა, კომპანიამ Trainium ჩიპების განვითარების ლაბორატორიაში მიგვიწვია. ინდუსტრიის ექსპერტები ყურადღებით აკვირდებიან ამ ობიექტზე შექმნილ ჩიპებს, რადგან მათ AI inference-ის ხარჯების შემცირებისა და Nvidia-ს მონოპოლიის შესუსტების დიდი პოტენციალი აქვთ.
AWS დიდი ხანია Anthropic-ის მთავარი cloud პლატფორმაა. ახალი გარიგება კი AWS-ს OpenAI-ის ახალი AI აგენტების ბილდერის (Frontier) ექსკლუზიურ პროვაიდერად აქცევს. შეთანხმების ფარგლებში, cloud გიგანტი OpenAI-ს 2 გიგავატი სიმძლავრის Trainium გამოთვლითი რესურსით უზრუნველყოფს. ეს უზარმაზარი ვალდებულებაა, მით უმეტეს, რომ Anthropic-ის Claude მოდელი უკვე 1 მილიონზე მეტ Trainium2 ჩიპზე მუშაობს.
მიუხედავად იმისა, რომ Trainium თავდაპირველად მოდელების ტრენინგისთვის შეიქმნა, ის ახლა inference-ისთვისაც გამოიყენება, რაც ამჟამად ინდუსტრიაში წარმადობის ყველაზე დიდი გამოწვევაა. Amazon-ის განცხადებით, ახალი ჩიპები, რომლებიც Trn3 UltraServers-ზე მუშაობს, კლასიკურ cloud სერვერებთან შედარებით 50%-ით ნაკლებ ხარჯებს მოითხოვს ანალოგიური წარმადობის პირობებში.
Trainium უკვე მხარს უჭერს PyTorch-ს, AI მოდელების შექმნის პოპულარულ open source ფრეიმვორქს. დეველოპერებისთვის Nvidia-დან მიგრაცია, ძირითადად, ერთი ხაზის კოდის შეცვლასა და კომპილაციას მოითხოვს, რაც Amazon-ს ეხმარება Nvidia-ს ბაზრის წილის მოპოვებაში. გარდა ჩიპებისა, გუნდმა შექმნა ახალი Neuron სვიჩები და Nitro სისტემა, რომელიც ვირტუალიზაციის ტექნოლოგიასა და თხევადი გაგრილების ინოვაციურ მეთოდებს აერთიანებს.
Amazon-ის ჩიპების დიზაინის განყოფილება 2015 წელს ისრაელური Annapurna Labs-ის შეძენით დაიწყო. მათი ლაბორატორია ტეხასში, ოსტინში მდებარეობს, სადაც ინჟინრები ჩიპის პირველად ტესტირებას (bring-up) ატარებენ. ტესტირების პროცესი ხშირად 24/7 რეჟიმში მიმდინარეობს, რათა მასობრივი წარმოებისთვის ხარვეზები დროულად აღმოიფხვრას. Trainium3 თანამედროვე 3-ნანომეტრიანი არქიტექტურით არის შექმნილი.
ტექნოლოგიური გიგანტის გენერალური დირექტორი, ენდი ჯასი, ლაბორატორიის მიღწევებს მუდმივად ადევნებს თვალს. მისი თქმით, Trainium უკვე მრავალმილიარდიანი ბიზნესია AWS-ისთვის და წარმოადგენს ტექნოლოგიის იმ ნაწილს, რომელზეც კომპანია ყველაზე დიდ იმედებს ამყარებს.
წყარო: techcrunch.com
