8 Minutės
Microsoft teigia, kad artėja išmanesnis Windows, varomas mažų AI lustų, vadinamų NPU. Šie neuroniniai apdorojimo vienetai žada greitesnę įrenginio dirbtinę intelektą, ilgesnį baterijos tarnavimo laiką ir naujus agentais grįstus sąveikos modelius, kurie gali iš esmės pakeisti, kaip naudojamės savo kompiuteriais.
NPUs: maži lustai, didelis poveikis
Neuroniniai apdorojimo vienetai (NPUs) yra specializuoti lustai, sukurti vykdyti mašininio mokymosi užduotis kur kas efektyviau nei bendros paskirties CPU ar net tradiciniai GPU. Microsoft pabrėžia NPUs, galinčius atlikti maždaug 40 trilijonų operacijų per sekundę (40 TOPS), kas leidžia sudėtingoms AI funkcijoms veikti vietoje be nuolatinio ryšio su debesimi.
Toks efektyvumas yra svarbus dėl kelių priežasčių. Perkeliant AI darbą į NPU, kompiuteriai gali pasiūlyti beveik akimirksnį vartotojo patirtį ir pagerintą privatumo apsaugą, tuo pačiu sumažindami energijos suvartojimą. Be to, reikalinga aparatūra telpa į įrenginius, kurių kaina gali būti tik keli šimtai dolerių, o ne į dideles serverių spintas.
Praktinė NPU nauda apima mažesnį uždelsimą (latency), mažesnį energijos suvartojimą intensyvių AI užduočių metu ir galimybę apdoroti jautrius duomenis vietoje, taip sumažinant duomenų perdavimo į debesį poreikį. Tai svarbu tiek vartotojams, tiek įmonėms, kurios turi laikytis privatumo reikalavimų ir duomenų apsaugos politikų.
Techniniu požiūriu NPU architektūros yra optimizuotos tensoriniams ir matriciniams skaičiavimams, kurie dominuoja neuroninių tinklų inferencijoje. Jos dažnai naudoja specialius MAC (multiply-accumulate) vienetus, dideles vidines atmintis ir plataus pralaidumo magistrales, kad sumažintų duomenų perkėlimo kaštus. Kartu su kvantizacijos metodais, modelių mažinimu ir pritaikytais runtime sprendimais, tai leidžia išlaikyti aukštą našumą mažomis energijos sąnaudomis.
NPUs taip pat skatina vadinamąjį „edge AI“ — sprendimų priėmimą ar prognozavimą tiesiai įrenginyje. Pavyzdžiui, sąsajos su kameros vaizdo apdorojimu, kalbos atpažinimu ar realaus laiko anonsavimu gali veikti be debesies, o tai prideda greitį, sumažina delsa ir pagerina privatumo valdymą.
Tuo pačiu metu svarbu suprasti, kad NPU našumas matuojamas ne tik TOPS. Atminties prieigos spartos, tilto tarp NPU ir pagrindinių sistemų, bei programinės įrangos optimizacijos kokybė lemia realų naudotojo jausmą. Todėl NPU dizainas turi būti derinamas su OS, tvarkyklėmis ir modelių optimizacija, kad vartotojai pajustų tikrąją naudą.
Kodėl Microsoft vadina juos Copilot+ PC
Microsoft jau daugiau nei metus reklamuoja Copilot+ PC idėją. Jų vizijoje šie įrenginiai sujungia NPUs su debesų paslaugomis, siekiant subalansuoti vietinį reagavimą ir didelių modelių galimybes. Maži arba vidutinio dydžio modeliai veikia vietoje ant NPU, aptarnaudami greitas užduotis, tokias kaip atminties iškėlimas, transkripcija arba kameros pradinė analizė, o sudėtingesnės arba kontekstą reikalaujančios užduotys gali būti nukreiptos į debesies modelius.
Viena iš šios strategijos ištakų yra Microsoft Surface Hub 2 Smart Camera projektas, kuriame AI užduotys buvo efektyviai vykdomos įrenginio viduje. Išmoktos pamokos iš tokio pobūdžio projektų buvo perduotos lustų partneriams — AMD, Qualcomm ir Intel — kurie pradėjo kurti specializuotą PC orientuotą AI silicio sprendimą.
Hibridinis modelis suteikia lankstumą: vietinis apdorojimas užtikrina greitį, reagavimą ir privatumo privalumus, tuo tarpu debesys gali pasiūlyti didesnės apimties „mąstymą“ arba sudėtingesnę kontekstinę analizę. Tai leidžia gamintojams pasiūlyti įvairaus kainų lygio įrenginius su prasmingomis AI funkcijomis neaukodami našumo.
Be techninių privalumų, Copilot+ PC koncepcija pakeičia ir naudotojo sąveikos paradigmą: vietoj izoliuotų funkcijų matome integruotą agentų ekosistemą, kuri geba derinti vietinius ir debesijos išteklius. Tai reiškia naujas galimybes programinės įrangos kūrėjams — nuo modelių kompresijos iki kelių aplinkų palaikymo ir dinaminio modelių paskirstymo tarp NPU ir debesies.
Galiausiai, toks požiūris suteikia gamintojams konkurencinį pranašumą: tie, kurie tinkamai integruos programinę ir aparatinę įrangą, galės pasiūlyti ryškesnę, greitesnę ir saugesnę AI patirtį mažesnėje kaina klasėje.
Agentai, mažiau paspaudimų, daugiau konteksto
Steven Bathiche, vadovaujantis Microsoft Applied Sciences komandai, šias agentines patirtis apibūdina kaip naująsias sąveikos vienetes. Kitaip tariant: Windows linksta link darbo srautų, kurie atlieka veiksmus už jus, o ne tik leidžia naršyti per meniu. Microsoft jau demonstruoja atskirą agentą Nustatymuose ir teigia, kad ateityje pasirodys sudėtingesnės automatizacijos galimybės.
Tokių agentų privalumas — jie gali apdoroti ir išlaikyti ilgalaikį kontekstą, suprasti vartotojo tikslus ir prioritetus bei proaktyviai pasiūlyti sprendimus. Pavyzdžiui, paprašius santraukos apie savaitės el. laiškus, agentas gali ne tik išvesti sutrumpintą turinį, bet ir automatiškai suplanuoti laiko langus tolimesnėms veiksmams, pasiūlyti susitikimų datas ar pasižymėti svarbiausias temas.
Tai ypač naudinga verslo vartotojams: automatizuotos darbo eigos gali sumažinti pasikartojančius veiksmus ir pagerinti produktyvumą. Pagrindinis NPUs vaidmuo čia — užtikrinti, kad tokie agentai būtų greiti, veiktų neprisijungus ir saugotų konfidencialumą, o debesys papildytų sprendimų priėmimą, kai reikalingas platesnis kontekstas ar papildomas skaičiavimo galingumas.
Vis dėlto svarbu aptarti etinius ir dizaino aspektus. Agentai turi būti aiškūs savo veiksmuose, pasiūlyti lengvas kontrolės priemones ir galimybę užtikrinti vartotojo privatumo nuostatas. Be to, kūrėjai privalo atsižvelgti į UX dizainą: kai sistema veikia automatiškai, vartotojas turi jausti kontrolę ir matyti priežastis, kodėl tam tikri veiksmai buvo atlikti.
Technologiniu požiūriu agentų kūrimą palengvins įrankiai, kurie leidžia dalinti modelius tarp vietinės NPU aplinkos ir debesies: dinaminis modelių paskirstymas, keitimo taškai, versijavimo ir nuoseklus modelių atnaujinimas prisideda prie saugios ir nuoseklios agentų elgsenos.
Ką tai reiškia vartotojams ir kūrėjams
- Vartotojai gauna greitesnes, privatumo draugiškas AI funkcijas įprastoje aparatūroje.
- Kūrėjai gali kurti agentinius darbo srautus, kurie derina vietinius ir debesijos modelius.
- Įrangos gamintojai lenktyniauja, kas greičiau diegs NPU daugiau nešiojamų ir stalinių kompiuterių dizainų.
Microsoft traktuoja NPUs kaip esminę infrastruktūrą kitai AI Windows kartai. Derindami vietinį neuroninį apdorojimą su debesų intelektu, Copilot+ PC siekia suteikti išmanesnę skaičiavimo patirtį be prievartos vartotojams pereiti prie brangių, specializuotų įrenginių.
Techninė ir komercinė vertė atsispindi ekosistemos pokyčiuose: programinės įrangos kūrėjai turės galimybę kurti greitas transkripcijas, vietinį kalbos atpažinimą, realaus laiko vaizdo analizę bei personalizuotus darbo srautus, kurie sinchronizuoja vietinius įvykius su debesies atmintimi. Tai reiškia platesnes galimybes mažiems ir vidutiniams kūrėjams pasiūlyti pažangius sprendimus be didelių serverinės infrastruktūros kaštų.
Kūrėjams verta susipažinti su esamomis optimizacijos praktikomis: modelių distiliacija, kvantizacija, pruning, bei įrankiais, tokiomis kaip ONNX Runtime, WinML ar DirectML Windows aplinkai. Taip pat svarbu suprasti modelių paskirstymo strategijas: kada ir kaip perkelti užklausas į debesį, kaip valdyti sinchronizaciją ir užtikrinti nuoseklią vartotojo patirtį nepriklausomai nuo tinklo sąlygų.
Vartotojams tai pažada patogesnę kasdienę darbo eigą — greitesnius atsakymus, didesnį privatumo jausmą ir funkcijas, kurios anksčiau buvo prieinamos tik didelėms organizacijoms ar brangioms darbo stotims. NPUs turi potencialą sumažinti atotrūkį tarp įperkamos aparatūros ir pažangių AI galimybių, todėl protingos funkcijos taps plačiau prieinamos.
Vis dėlto egzistuoja ir iššūkiai: standartizacija bei suderinamumas tarp skirtingų gamintojų NPU sprendimų, tvarkyklių palaikymas, saugumo sertifikavimas ir modelių valdymas. Sėkminga integracija reikalauja glaudaus bendradarbiavimo tarp OS kūrėjų, lustų gamintojų ir programinės įrangos ekosistemos, kad vartotojai gautų sklandžią ir patikimą patirtį.
Galiausiai, perėjimas prie Copilot+ PC paradigmos gali paskatinti naują programų bangą — nuo asmeninių agentų, padedančių tvarkyti kasdienes užduotis, iki pramoninių sprendimų, kur vietinis AI mažina prastovas ir pagerina operacijų saugumą. Tai ir ekonominė, ir technologinė galimybė, kurios pagrindą sudaro NPUs ir hibridinis vietos–debesijos modelių veikimas.
Šaltinis: neowin
Palikite komentarą