Microsoft Maia 300 spartina dirbtinio intelekto inferenciją

„Microsoft“ pristatė „Maia 300“ – trečios kartos nuosavą dirbtinio intelekto inferencijos lustą. Bendrovė teigia, kad šis sprendimas, skaičiuojant vienam megavatui energijos, apdoros maždaug 40 proc. daugiau žetonų nei pažangiausios GPU pagrindu veikiančios sistemos. „Microsoft“ „Maia 300“ pozicionuoja kaip specialiai inferencijai sukurtą spartintuvą, kuris turėtų tapti pagrindine bendrovės produktų ir paslaugų inferencijos infrastruktūra.

„Microsoft“ tikisi pradėti diegti „Maia 300“ gamybinėje aplinkoje 2027 metais. Pareiškime „Microsoft“ debesijos kompiuterijos vykdomasis viceprezidentas Scottas Guthrie teigė, kad patobulinimai leis bendrovei plačiau naudoti savo lustus ir sumažinti priklausomybę nuo „Nvidia“ bei AMD. Guthrie pridūrė, kad nuo 2027 metų „Microsoft“ pradės plėtoti „Azure Maia“ lustų šeimą kelių gigavatų mastu, kad šie lustai taptų pagrindine inferencijos infrastruktūra visoje bendrovėje.

Našumas ir vaidmuo „Microsoft“ technologinėje infrastruktūroje

96 spartintuvų konfigūracijos sistemoje „Maia 300“ gali iki septynių kartų padidinti žetonų apdorojimo našumą vienoje serverių spintoje, palyginti su ankstesnės kartos „Maia 200“ lustu, kurį „Microsoft“ pristatė tik sausį. „Maia 200“ jau naudojamas įvairiems „Microsoft“ darbo krūviams, įskaitant „Microsoft Copilot“, „GitHub Copilot“, „Microsoft Foundry“ ir bendrovės nuosavus DI modelius. Guthrie teigė, kad pagal realius DI paslaugų našumo rodiklius „Maia 200“ išlieka našiausia skaičiavimo infrastruktūra „Microsoft“ techninės įrangos parke, o „Maia 300“ sukurtas kaip visapusiška sistema naujos kartos DI darbo krūviams.

„Microsoft“ nurodo, kad „Maia 300“ optimizuotas samprotavimo darbo krūviams su ilgu kontekstu, mažos delsos pokalbiams ir nuolatinėms kelių žingsnių agentų užduotims. Bendrovė pabrėžia, kad lustas skirtas inferencijai, o ne modelių mokymui.

Lusto architektūra ir gamyba

„Maia 300“ naudoja lustelių architektūrą, sukurtą pagal TSMC N2P technologinį procesą. „Microsoft“ teigia, kad architektūroje atskirti skaičiavimo blokai, atminties valdiklis bei įvesties ir išvesties funkcijos. Dėl to didesnę kristalo ploto dalį galima skirti skaičiavimams, o kiekvienam blokui parinkti jo paskirčiai tinkamiausią technologiją. „Azure“ aparatinės įrangos ir infrastruktūros komanda teigia, kad toks sprendimas užtikrina didesnį efektyvumą ir leidžia lustą tiksliai pritaikyti konkrečioms inferencijos funkcijoms.

„Microsoft“ taip pat signalizuoja, kad „Maia 300“ atliks svarbų vaidmenį bendrovės modelių kūrimo ir diegimo planuose. „Microsoft AI“ vadovas Mustafa Suleymanas teigė, kad bendrovė turi vystyti visus technologijų paketo sluoksnius – nuo modelių iki silicio, o „Microsoft“ planuojamam mastui būtina specializuota platforma, kuriama kartu su jos modeliais. Jis pridūrė, kad vienas svarbiausių komandos prioritetų – užtikrinti, jog „Microsoft“ nuosavi modeliai veiktų su „Maia“ lustais.