Samsung atminties proveržis: BV-NAND V10 ir zHBM AI

Šurmuliuojančioje Santa Klaros salėje „Samsung“ tyliai praskleidė uždangą nuo aparatinės įrangos, kuri atrodo ne kaip nedidelis žingsnis į priekį, o kaip maža revoliucija. Inžinieriai būriavosi aplink stiklines vitrinas. Buvo keičiamos plokštės. Pagrindinė žinia buvo tiesi: atmintis keičia savo formą.

Svarbiausias akcentas: BV-NAND V10. Tai sujungta V-NAND atmintis, pakelta į naują kraštutinumą, turinti daugiau kaip 400 sluoksnių, sukrautų naudojant pažangias „Samsung“ sujungimo technologijas. Rezultatas nėra vien aukštesnė silicio rietuvė. Ji užtikrina apie 58 % didesnį tankį, palyginti su ankstesne karta, o papildoma vertikali erdvė tiesiogiai virsta spartesniu skaitymu, greitesniu rašymu, geresniu įvesties ir išvesties našumu bei išmatuojamu energijos taupymu. Trumpai tariant: tankesnė atmintis, kuri naudoja mažiau energijos ir greičiau perkelia duomenis.

Sukrauti aukščiau ir sumažinti atstumą

Dabar įsivaizduokite atmintį, kuri tiesiogine prasme yra virš procesoriaus. Keista? Galinga. „Samsung“ tai vadina zHBM. Ši technologija perima plokštelių sujungimo principus ir pritaiko juos didelio pralaidumo atminčiai, iš naujo apibrėždama fizinį ryšį tarp DRAM ir spartintuvo. Užuot buvusi kaimynė toje pačioje plokštėje, zHBM sukraunama virš dirbtinio intelekto spartintuvų, todėl smarkiai sutrumpėja kelias, kurį turi įveikti duomenys. Vėlinimas mažėja. Sparta auga. Energijos sąnaudos krinta.

„Samsung“ teigia, kad zHBM gali pasiūlyti maždaug aštuonis kartus didesnį našumą nei būsimas HBM5 standartas, kartu užtikrindama apie dešimt kartų didesnį atminties tankį ir maždaug tris kartus geresnį energijos efektyvumą. Tai drąsūs pareiškimai. Jie remiasi dviem dalykais: itin glaudžia vertikalia integracija ir bendrovės plokštelių sujungimo patirtimi. Jei realios sistemos atitiks šiuos skaičius, zHBM gali pakeisti duomenų centrų ir dirbtinio intelekto stovų architektūrą.

„Samsung“ taip pat parodė savo pažangą kuriant pramonės standartus atitinkančią HBM atmintį: HBM4E pavyzdžiai jau išsiųsti klientams, o HBM5 bendrovė pristatė kaip kitą didelio pralaidumo atminties atskaitos tašką. Vis dėlto zHBM pozicionuojama kaip spartesnis, kompaktiškesnis ir energiją tausojantis pasirinkimas apkrovoms, kurioms reikia didelio mastelio.

Ne kiekviena naujovė skirta debesijai. Čia pasirodo zNAND-O, naujos kartos „flash“ atmintis, sukurta remiantis V-NAND metodais, bet pritaikyta kraštiniam dirbtiniam intelektui. „Samsung“ kuria 4 ir 8 sluoksnių versijas, kurios žada geresnį erdvės išnaudojimą, didesnį įvesties ir išvesties našumą bei mažesnį vėlinimą nei įprasta NAND atmintis. zNAND-O galima įsivaizduoti kaip taupią vietinę talpyklą dirbtinio intelekto išvedimui arti naudotojo, o zHBM paliekama sunkiausiems mokymo ir didelio masto išvedimo darbams debesijoje.

Buvo pristatyta ir dar viena įdomi detalė: LPDDR5X-PIM. Tai pirmoji pramonėje LPDDR atmintis, integruojanti apdorojimo atmintyje funkcijas, kai dalis skaičiavimų atliekama pačioje atmintyje dar prieš duomenims ją paliekant. Poveikis aiškus: mažiau duomenų keliauja pirmyn ir atgal, efektyvus pralaidumas didėja, o energijos rodikliai gerėja. Apkrovose, kuriose dominuoja paprastos transformacijos ar redukcijos, PIM gali sumažinti siaurąsias vietas neperrašant visos programinės įrangos architektūros.

Rytinis pagrindinis pranešimas apibrėžė strategiją. Jin-Yub Lee, vykdomasis viceprezidentas ir „Flash“ produktų bei technologijų vadovas, kartu su Kyungryun Kim, viceprezidentu ir DRAM projektavimo komandos projekto vadovu, pristatė „Samsung“ požiūrį į atmintį kaip į aktyvų sistemos elementą, o ne tik pasyvią saugyklą. Jie teigė, kad sluoksniavimas ir sujungimas taps pagrindiniais svertais, leidžiančiais iš dirbtinio intelekto sistemų išspausti daugiau našumo ir efektyvumo.

Tad kur tai mus nuveda? „Samsung“ parodė visą įrankių rinkinį: tankesnę „flash“ atmintį duomenų saugojimui, sluoksniuotas HBM versijas pralaidumo ištroškusiems skaičiavimams, kompaktišką NAND kraštiniam dirbtiniam intelektui ir operatyviąją atmintį, galinčią atlikti darbą. Kiekviena dalis svarbi. Kartu jos užsimena apie ateitį, kurioje atminties dizainas atliks pagrindinį vaidmenį tramdant dirbtinio intelekto išteklių alkį.