2 Minutės
Įsivaizduokite, kad kuriate milžinišką kalbos modelį, o serveryje nėra nė vienos Nvidia plokštės. Keista? Jau nebe. Meituan tyliai pristatė LongCat-2.0, atvirojo kodo milžiną, kuris verčia pergalvoti, kokia techninė įranga gali atlaikyti didžiausius dirbtinio intelekto darbo krūvius.
LongCat-2.0 turi maždaug 1,6 trilijono parametrų ir palaiko apie vieno milijono žetonų konteksto langą, todėl patenka tarp didžiausių šiuo metu naudojamų kalbos modelių. Kūrėjai teigia, kad pagal mastą jis konkuruoja su tokiais modeliais kaip DeepSeek-V4-pro, tačiau svarbiausia naujiena nėra vien dydis. Esmė slypi techninėje įrangoje.
Skirtingai nei ankstesni bandymai, kai vietiniai lustai buvo naudojami tik inferencijai, Meituan praneša, kad LongCat-2.0 mokymas ir inferencija buvo atlikti naudojant visiškai Kinijoje sukurtą technologinę platformą. Bendrovė teigia pasitelkusi skaičiavimo klasterį, sudarytą iš maždaug 50 000 kiniškų grafikos plokščių ir dešimčių tūkstančių ASIC lustų, pritaikytų dirbtinio intelekto užduotims. Rezultatas: didelio masto mokymas atliktas naudojant techninės įrangos alternatyvas pasaulinei, Nvidia dominuojamai tiekimo grandinei.
Bendrovė neatskleidė tikslių naudotų procesorių šeimų. Huawei yra akivaizdi kandidatė, tačiau Meituan tiekėjų neįvardijo. Toks neapibrėžtumas svarbus: programinės įrangos suderinamumas, tvarkyklių branda ir orkestravimo sluoksniai realų našumą lemia ne mažiau nei patys lustai.
LongCat-2.0 žymi svarbų techninės įrangos nepriklausomybės etapą, tačiau praktinės jo galimybės liks neįrodytos, kol nepasirodys nepriklausomi našumo testai.
Kol kas modelis dar nebuvo išbandytas pagrindiniuose vertinimo rinkiniuose, tokiuose kaip „Dirbtinio intelekto analizė“ ar „Arena“, taip pat specializuotuose testuose, pavyzdžiui, „Paskutinis agentų egzaminas“ ir „Kibernetinė treniruočių aplinka“. Lyginamieji testai parodys, ar mokymas vietinėje technologinėje platformoje virsta konkurencingu tikslumu, delsa ir efektyvumu. Ar tai bus lygiavertis rezultatas, palyginti su Nvidia platformose mokytais modeliais, ar visai kitoks kompromisų rinkinys?
Platesnė reikšmė aiški: Kinijos ekosistema tikrina, ar alternatyvūs lustai ir milžiniški vietiniai klasteriai gali palaikyti pažangiausius dirbtinio intelekto tyrimus. Tai gali pakeisti tiekimo grandinių prielaidas ir paskatinti vietines inovacijas. Kol kas LongCat-2.0 yra gebėjimų įrodymas ir kartu raginimas stebėti lyginamųjų testų rezultatus, kurie nulems, ar tai tikras proveržis, ar įdomus eksperimentas.
Šaltinis: smarti
Palikite komentarą