OpenAI Jalapeno lustas keičia DI skaičiavimų kryptį

Šią savaitę į OpenAI atkeliavo kompaktiškas lustas, kuris atrodė kaip daugiau nei vien aparatinė įranga. Tai buvo aiški pozicija. Naujuoju ASIC, pavadintu Jalapeno, OpenAI žengia pirmą rimtą žingsnį kuriant nuosavą lustą. Jis sukurtas bendradarbiaujant su Broadcom, siekiant paspartinti DI inferenciją bendrovei, kuri pasauliui pristatė ChatGPT.

OpenAI šį projektą vadina Intelekto procesoriumi ir apibūdina jį kaip pirmąjį greitintuvą platformoje, kurią bendrovė kuria tam, kad pažangūs dirbtinio intelekto modeliai veiktų greičiau, patikimiau ir didesniu mastu. Silicį gamins Broadcom. OpenAI teigia, kad Jalapeno buvo suprojektuotas maždaug per devynis mėnesius, o kartu sukurta ir didelė dalis aplinkinių skaičiavimo sistemų, kuriose šie lustai bus naudojami.

Kodėl tai svarbu DI skaičiavimams

Nvidia grafikos procesoriai, GPU, buvo šiuolaikinio dirbtinio intelekto pagrindas. Jie lankstūs ir galingi. Tačiau jų kaina didelė, o tiekimą dažnai riboja trūkumai. ASIC lustai dalį lankstumo iškeičia į efektyvumą ir mažesnes sąnaudas. Dėl to jie tampa patrauklūs tada, kai darbo krūvį galima labai tiksliai optimizuoti. Jalapeno yra OpenAI statymas, kad kruopščiai suderinta aparatinė įranga gali suteikti daugiau skaičiavimo galios vienam vatui ir padėti bendrovei išplėsti prieigą prie pažangių DI modelių.

Ar OpenAI išsiskiria su Nvidia? Ne visai. Tai diversifikacija, kurią skatina vis sparčiau auganti paklausa. Anksčiau šiais metais OpenAI sudarė sandorius dėl Amazon Trainium lustų naudojimo ir pasirašė partnerystes su AMD bei Cerebras. Dabar, kai Broadcom gamins Jalapeno, OpenAI siekia pridėti dar vieną patikimą kelią į žalią skaičiavimo galią, kurdama individualios aparatinės įrangos stovus, kuriems, įgyvendinus visą ambiciją, galėtų prireikti apie dešimt gigavatų galios.

Yra ir praktinių etapų. Fizinis Jalapeno pavyzdys buvo pristatytas trečiadienį. Bendrovės teigia, kad pirmųjų diegimų tikisi iki 2026 m. pabaigos, o platesnio masto diegimai turėtų vykti vėlesniais metais. Jei terminai bus įgyvendinti, galime stebėti reikšmingo pokyčio pradžią, kaip didieji kalbos modeliai aptarnaujami realiose gamybinėse sistemose.

Broadcom šią naujieną pajuto iš karto. Po pranešimo bendrovės akcijos pakilo apie du procentus. Lustų gamintoja tapo viena iš DI rinkos laimėtojų: jos akcijos nuo metų pradžios pakilo maždaug dešimt procentų, o nuo 2022 m. pabaigos išaugo beveik septynis kartus, nes didieji debesijos paslaugų teikėjai ir DI laboratorijos vis dažniau užsako individualų silicį.

Vis dėlto kompromisų yra. ASIC lustai yra mažiau lankstūs nei bendrosios paskirties GPU, todėl geriausiai veikia tada, kai derinami su tiksliai pritaikytu programinės įrangos ir sistemų sluoksniu. OpenAI argumentas paprastas: projektuodama didesnę šio sluoksnio dalį pati, bendrovė gali išgauti didesnį efektyvumą ir išplėsti prieigą prie galingų dirbtinio intelekto įrankių. Trumpai tariant: sukūrus variklį ir sureguliavus automobilį, galima nuvažiuoti toliau už mažesnę kainą.

Tikrasis išbandymas bus našumas realiuose darbo krūviuose ir tai, kaip greitai OpenAI kartu su Broadcom sugebės išplėsti gamybą. Kol kas Jalapeno yra drąsus žingsnis aparatinės įrangos nepriklausomybės link ir priminimas, kad DI tiekimo grandinė pereina nuo standartinių komponentų prie individualių platformų, sukurtų naujos klasės programinei įrangai.