Google Gemini 4 Carbon stiprina AI programavimo saugą

„Google“ pristatė „Gemini 4 Carbon“ – aukščiausios klasės dirbtinio intelekto modelį, skirtą programavimui, ilgai trunkančioms agentų užduotims ir kibernetiniam saugumui. Bendrovė „Carbon“ vadina galingiausiu savo modeliu, tačiau jis kol kas nėra viešai prieinamas: ankstyva prieiga suteikiama tik nedidelei saugumo specialistų grupei.

Ilgai trunkančios agentų užduotys ir programinės įrangos kūrimas

„Carbon“ sukurtas vykdyti kelias dienas trunkančias agentų užduotis, išlaikyti pažangą dirbant su sudėtingais projektais ir generuoti praktiškai pritaikomus programinės įrangos rezultatus. „Google“ pateikia vidinių pavyzdžių, kai modelis dirbo kelias dienas, įveikė aklavietes ir didelėse kodo bazėse bei žemo lygio sistemose nustatė pagrindines subtilių klaidų priežastis. Modelis gali skaidyti problemas į mažesnius etapus, įvertinti kiekvieno žingsnio rezultatą, nesėkmės atveju rinktis alternatyvius metodus ir pateikti projekto apribojimus atitinkančius pataisymus.

„Google“ teigimu, „Carbon“ pasižymi geresniais mokslinio samprotavimo, multimodalinio supratimo, visapusiško žiniatinklio kūrimo ir praktiškai pritaikomų rezultatų generavimo gebėjimais. „Artificial Analysis Intelligence“ indekso 5.0 versijoje „Gemini 4 Carbon“ surinko 59 balus ir užėmė pirmąją vietą. „WebDev Arena“ vertinime „Carbon“ rezultatą pagerino 89 balais, surinko 1769 balus ir užėmė ketvirtą vietą. „Google“ pažymi, kad šis rodiklis vertina rezultatų kokybę pagal tiesioginį atsakymų palyginimą ir negarantuoja tokio paties veikimo visuose realiuose projektuose.

Trijų etapų kibernetinio saugumo procesas ir testų rezultatai

„Google“ pristato „Carbon“ kaip modelį, veikiantį pagal trijų etapų kibernetinio saugumo ciklą: rasti tikrą pažeidžiamumą didelėje kodo bazėje, įvertinti jo išnaudojamumą ir pateikti taisymą, pašalinantį pagrindinę problemos priežastį.

• Pažeidžiamumų aptikimas: „Carbon“ SEC-bench Pro teste surinko 88,2 proc. ir automatiškai aptiko sudėtingus, paslėptus defektus realioje programinėje įrangoje.
• Išnaudojimo patvirtinimas: „Carbon“ ExploitGym teste surinko 54,8 proc. – šiame teste vertinama, ar modelis gali nustatyti, ar pažeidžiamumas yra išnaudojamas.
• Pagrindinės priežasties pašalinimas: „Carbon“ „Collinear“ CWE-bench teste surinko 71 proc. ir patvirtintas išvadas pavertė vykdomais kodo pataisymais.

Šie išoriniai testai atlikti be saugos sluoksnių, kad būtų galima įvertinti grynąsias modelio galimybes. „Google“ pabrėžia, kad diegiant jį produkcinėje aplinkoje bus taikomi apribojimai ir piktnaudžiavimo aptikimo sistemos. Vidiniuose vertinimuose „Carbon“ sėkmės rodiklis kuriant saugų kodą buvo daugiau nei du kartus didesnis nei „Argon“. „Chrome“ komanda pranešė, kad „Carbon“ daugiau nei 10 kartų dažniau generavo aukštesnės kokybės pataisymus nei didelis, neįvardytas kitos laboratorijos modelis. „Google“ neatskleidė konkurento ir visos testavimo metodikos. Saugumo platforma „Wiz“ taip pat pastebėjo „Carbon“ pranašumą žiniatinklio įsilaužimų rodikliuose, naudojamuose jos programoje „Scan for Good“.

Saugos architektūra, atsparumas užklausų injekcijoms ir laipsniškas diegimas

„Google“ pritaikė tą pačią daugiasluoksnės gynybos architektūrą, naudotą „Argon“ modeliui. Ji apima modelio mokymo kontrolę, apsaugą nuo piktnaudžiavimo realiuoju laiku, atsparumą užklausų injekcijoms ir samprotavimo grandinės stebėseną. Mokymo tikslai suformuluoti taip, kad modelis neieškotų trumpesnių kelių aukštiems įvertinimams gauti, neišspręsdamas pagrindinės problemos.

Vidiniuose saugumo testuose „Carbon“ „Terminal-Bench 4.0“ teste pasiekė nulinį sėkmingo sukčiavimo rodiklį, o sukčiavimo bandymų rodiklis siekė 0,4 proc., nors bendras tikslumas padidėjo. Veikiančiose vidinėse programavimo aplinkose užfiksuota maždaug 80 proc. mažiau rimtų elgsenos neatitikimo įspėjimų. Testai taip pat parodė, kad nepagrįstų teiginių skaičius sumažėjo iki maždaug pusės rodiklio, fiksuoto naudojant „Argon“. Prieš imdamasis veiksmų „Carbon“ gali rasti aktualius šaltinius ir pažymėti aptiktų duomenų neatitikimus. „Google“ pranešė, kad su užduotimi nesusijusio elgesio sumažėjo 26 proc., o nepakankamų paslaugos atsakymų – 29 proc.

„Carbon“ „Gray Swan“ teste užfiksavo nulinį sėkmės rodiklį prieš netiesiogines užklausų injekcijos atakas, o „Argon“ tame pačiame teste pasiekė 0,7 proc. „Google“ vykdo laipsnišką diegimą ir dalyvauja JAV savanoriškame vyriausybės testavimo procese. Iš pradžių prieigą gaus kibernetinio saugumo gynėjų grupė, vėliau ji per „Fairwind“ programą bus išplėsta patikimiems partneriams. Testuotojų atsiliepimai bus naudojami apsaugos priemonėms tobulinti, tačiau „Google“ nenurodė bendro prieinamumo datos.

Kainodara ir atsiskaitymo informacija

„Google“ nurodė, kad pradinė „Carbon“ kaina bus tokia pati kaip „Argon“. Pradiniu laikotarpiu vieno milijono įvesties žetonų apdorojimas kainuos 2 JAV dolerius, o vieno milijono išvesties žetonų generavimas – 10 JAV dolerių. Talpykloje saugomiems įvesties žetonams bus taikoma 95 proc. nuolaida, palyginti su įvesties kaina. Pasibaigus pradiniam laikotarpiui, vieno milijono įvesties žetonų kaina padidės iki 4 JAV dolerių, o vienas milijonas išvesties žetonų kainuos 20 JAV dolerių. „Google“ pažymėjo, kad galutinė ilgai trunkančių agentų projektų kaina priklauso ne tik nuo vieno žetono tarifo, bet ir nuo žingsnių skaičiaus, įrankių iškvietimų, konteksto apimties bei talpyklos naudojimo.