6 Minutės
Samsung paskelbė strateginį bendradarbiavimą su OpenAI, kurio tikslas – sparčiai plėsti aparatūros ir duomenų centrų infrastruktūrą, reikalingą didelio masto dirbtinio intelekto diegimams. Partnerystė apima atminties tiekimą, pažangų pakavimą, duomenų centrų paslaugas ir naujoviškas plaukiojančias įrangos koncepcijas, todėl Samsung pozicionuojamas kaip esminis infrastruktūros partneris ChatGPT kūrėjui.
Atminties tiekimas ir pažangus lustų integravimas
Pagrindinė susitarimo dalis – Samsung Electronics įsipareigojimas patenkinti OpenAI sparčiai augančią atminties paklausą. Įmonė vertina, kad poreikis gali siekti net iki 900 000 DRAM plokštelių (wafer) per mėnesį, ir pažada tiekti aukštos spartos, energiją taupančius DRAM sprendimus. Treniruojant ir vykdant AI modelius, ypač didelius kalbinius modelius, svarbūs atminties tankis ir energetinis efektyvumas – todėl Samsung pasiūlymai orientuoti į užstrigimų mažinimą ir eksploatacinių sąnaudų optimizavimą.
Techniniu požiūriu tai reiškia ne tik daugiau DRAM kapasitetų, bet ir spektrą technologinių sprendimų: DDR ir LPDDR šeimos optimizacijas, HBM tipo sprendimus aukštos pralaidumo atmintims, bei alternatyvias architektūras, kurios leidžia pasiekti aukštesnį pralaidumą vienam kanalui. AI modelių treniravimas reikalauja milžiniškų duomenų srautų per atminties subsystemą, todėl didesnė juostos pralaidumo sparta ir mažesnė latentencija tiesiogiai keičia modelių apmokymo trukmę ir kainą.
Be to, Samsung akcentuoja savo išskirtines galimybes pažangioje lustų pakavimo technologijoje ir heterogeninėje integracijoje tarp atminties ir sistemos lustų. Praktikoje tai reiškia artimesnį DRAM sujungimą su procesoriais ir akceleratoriais – tiek fizinę, tiek elektrinę – siekiant pagerinti pralaidumą ir sumažinti delsą. Tokie sprendimai ypač naudingi dideliems kalbiniams modeliams ir kitoms intensyviai skaičiavimams reiklioms AI užduotims, kur svarbu momentinis duomenų pasiekiamumas ir srautų apdorojimas realiu laiku.
Pažangus pakavimas (advanced packaging) apima technologijas, tokias kaip 2.5D/3D integracija, tarpinės plokštės (interposer), TSV (through-silicon via) jungtys, fan-out WLP ir chiplet architektūros. Tokios technologijos leidžia sumažinti atstumus tarp komponentų, padidinti kontaktų tankį ir sumažinti energijos nuostolius tarp atminties ir skaičiavimo blokų. Pavyzdžiui, naudojant „chiplet“ požiūrį, galima derinti specializuotus skaičiavimo blokų modulius su daugiasluoksne atmintimi, taip optimizuojant tiek apdorojimo spartą, tiek energijos sąnaudas vienam inferencijos užklausai.
Praktinėje pusėje tai gali reikšti, kad OpenAI gaus ne tik pagerintą DRAM asortimentą, bet ir integruotas pakavimo paslaugas, kurios leidžia sumažinti sistemų latenciją ir pagerinti perrašymo/duomenų mainų efektyvumą tarp GPU/TPU tipo akceleratorių ir atminties blokų. Tokiu būdu sumažėja perėjo tarp lustų ribos ir padidėja bendras sistemos pralaidumas, kas ypač aktualu didelio masto treniravimo klasteriams ir mažos delsos inferencijos instaliacijoms.
Duomenų centrų dizainas, Stargate įrenginiai ir plaukiojančios stotys
Be lustų ir pakavimo, Samsung SDS bendradarbiaus su OpenAI projektuojant, diegiant ir valdančią Stargate tipo AI duomenų centrų infrastruktūrą. SDS ketina teikti konsultacijas, diegimo bei nuolatinės valdymo paslaugas įmonėms, kurios sieks integruoti OpenAI modelius į savo vidines sistemas. Be to, SDS tapo oficialiu OpenAI paslaugų perpardavėju Pietų Korėjoje ir planuoja palaikyti ChatGPT Enterprise diegimą bei pritaikymą didesnėms organizacijoms.
Stargate duomenų centrai, kaip tai apibūdinama partnerystėje, bus optimizuoti dirbtinio intelekto apkrovoms: jie orientuoti į didelės galios tanko talpinimą, pažangias aušinimo sistemas, itin greitą tinklų prijungtumą ir modulinius statinius, leidžiančius greitai skaliuoti pajėgumus. Tokios instaliacijos dažnai remiasi skystinio aušinimo sprendimais (liquid cooling arba immersion cooling), kurie efektyviau išskaido šilumą nei tradicinis oro aušinimas ir leidžia pasiekti žemesnį PUE (Power Usage Effectiveness), o tai sumažina eksploatacines sąnaudas ir ekologinį pėdsaką.
Samsung SDS konsultacijos apims ne tik techninį diegimą, bet ir duomenų srautų optimizavimą, modelių orkestraciją, saugos ir atitikties (compliance) sprendimus, taip pat integraciją su debesų platformomis ir vietinėmis IT sistemomis. Verslams tai suteiks galimybę greičiau perkelti OpenAI modelius į gamybinę aplinką, naudotis valdomomis paslaugomis bei sumažinti vidinių resursų apkrovą.
Be to, Samsung C&T ir Samsung Heavy Industries nagrinėja plaukiojančių duomenų centrų idėją kaip alternatyvą žemėje statomoms įrangos bazėms. Plaukiojančios stotys gali išspręsti žemės trūkumo klausimą, pasiūlyti natūralų jūros vėsinimą ir potencialiai sumažinti anglies dvideginio emisijas, ypač jei jos integruotos su atsinaujinančios energijos šaltiniais. Tačiau toks sprendimas reikalauja sudėtingų inžinerinių sprendimų: stabilumo užtikrinimo audrų metu, pėdsako ir laivų tvirtinimų planavimo, ryšių ir energijos tiekimo perjungimo sprendimų bei aplinkosauginių leidimų.
Techniniu požiūriu plaukiojančios stotys gali naudoti tiesioginį jūros vandenį temperatūros reguliavimui arba kombinuotus sprendimus su skysčiu aušinimu, taip padidinant energinį efektyvumą. Taip pat svarstytini aspektai susiję su pakrančių infrastruktūra: prieigomis prie optinių kabelių, tinklo atsargumu bei integracija su vietinėmis energetikos sistemomis. Jei sėkmingai išspręstos teisinių ir techninių kliūčių dalys, plaukiojančios duomenų bazės gali tapti patraukliu sprendimu pakrančių regionams, norintiems priimti aukštos energijos tanko AI infrastruktūrą be didelio žemės naudojimo.
Išvada
Ši partnerystė sujungia Samsung puslaidininkių gamybos pajėgumus, pakavimo kompetenciją ir sistemų integraciją su OpenAI modelių ekosistema. Verslėms ir valstybinėms institucijoms, stebinčioms AI infrastruktūros plėtrą, susitarimas signalizuoja kryptį link vertikaliai integruotų sprendimų – nuo DRAM plokštelių iki valdomų Stargate duomenų centrų ir potencialiai plaukiojančių įrenginių – skirtų pagreitinti AI diegimą plačiu mastu.
Tokia vertikali integracija sumažina tiekimo grandinės sudėtingumą, suteikia didesnę kontrolę sprendinių optimizavimui ir leidžia pasiūlyti „pilną paketo" sprendimą įmonėms, kurioms reikalinga greita ir patikima AI platforma. Tai taip pat kelia klausimus apie priklausomybę nuo didžiųjų gamintojų, geostrateginius sprendimus ir būtinybę užtikrinti atsargines alternatyvas tiekimo grandinėms bei energetiniams šaltiniams.
Galiausiai, šis bendradarbiavimas gali paspartinti AI priėmimą pramonės šakose, kuriose reikalingas didelis skaičiavimo pajėgumas – nuo natūralios kalbos apdorojimo ir rekomendacijų sistemų iki molekulinio modeliavimo ir vaizdo analizės. Samsung technologinė parama ir OpenAI modelių ekosistema kartu gali suteikti tiek techninių, tiek komercinių privalumų klientams, kurie nori diegti atmintį ir skaičiavimo galias reikalaujančius sprendimus saugiai, efektyviai ir skaliuojamai.
Šaltinis: gsmarena
Palikite komentarą