AI kibernetinio saugumo ateitis kelia vis daugiau nerimo

Daugiau kaip šimtas įmonių siunčia bendrą žinią: kibernetinio saugumo ateitis darosi vis sudėtingesnė. Žinutė trumpa, griežta ir kelianti nerimą. Tarp bendrovių, pasirašiusių viešą laišką, kuriame raginama koordinuotai stiprinti apsaugą nuo DI valdomų atakų, yra „Google“, „Anthropic“, „OpenAI“, „Microsoft“, „Oracle“ ir „Perplexity“.

Ko iš tikrųjų prašoma laiške

Dokumente, pavadintame „Kvietimu kolektyviai veikti kibernetinės gynybos srityje“, pateikiami trys pagrindiniai argumentai. Pirma, dabartinės saugumo praktikos nesugebės neatsilikti nuo būsimos atakų spartos ir išradingumo. Antra, gynėjams būtini DI paremti įrankiai, galintys prilygti puolamųjų sistemų sudėtingumui. Trečia, nė viena įmonė ar vyriausybė negali veiksmingai reaguoti viena, todėl būtini bendri veiksmai.

• Kibernetiniam saugumui teikti pirmenybę tiek organizacijų, tiek visos pramonės lygmeniu.
• Kurti stebėsenos ir apsaugos įrankius, skirtus būtent DI įgalinamoms grėsmėms.
• Užtikrinti DI autonominių agentų atsekamumą ir atsakomybę už jų veiksmus.
• Dalytis nuolatinės stebėsenos metodais ir gerąja praktika tarp skirtingų sektorių.

Autoriai pateikia ir tiesmuką prognozę: artimiausiais mėnesiais DI pagrįstos atakos taps platesnio masto ir sudėtingesnės, nes modeliai visame pasaulyje įgis daugiau galimybių. Tai nėra naujiena. Tyrėjai ir skvarbos testavimo komandos apie tai įspėja jau daugelį metų: autonominės sistemos pademonstravo gebėjimą manipuliuoti imituojama aplinka, o piktavaliai veikėjai mėgino išnaudoti viešai prieinamus pokalbių robotus.

Tad kodėl šis pareiškimas kelia nerimą? Todėl, kad daugelis jo autorių patys prisidėjo prie procesų, apie kuriuos dabar perspėja, spartinimo. Didiesiems DI tiekėjams integruojant galingus modelius į kiekvieną produktą ir platformą, plečiasi ir atakų paviršius. Kai tos pačios įmonės ragina elgtis atsakingai, vieniems tai atrodo būtinas pavojaus signalas, kitiems – įžanga į DI valdomų gynybos sprendimų pardavimą.

Vis dėlto pasiūlyme yra praktiškų ir prasmingų veiksmų, kuriuos verta įgyvendinti. Pavyzdžiui, galimybė atsekti DI agentus padėtų atlikti kriminalistinę incidentų analizę ir atgrasytų nuo piktnaudžiavimo. Bendri aptikimo metodai ir prioritetinis finansavimas gynybiniams moksliniams tyrimams bei plėtrai pakeltų minimalų saugumo lygį įvairiose pramonės šakose. Šios priemonės nesustabdys atakų per vieną naktį, tačiau padidins jų vykdymo kainą.

Ar šis laiškas yra pažadinimo signalas, ar rinkodaros žingsnis? Galbūt ir viena, ir kita. Realybė retai būna vienareikšmė. Dabar svarbiausia imtis veiksmų: skaidriau testuoti modelius, sukurti aiškesnius incidentų pranešimo kanalus ir iš tiesų investuoti į gynėjų pajėgumus, kurie būtų tokie pat lankstūs kaip grėsmės, su kuriomis jie susiduria.

Esmė: pasirengimui reikia techninių apsaugos priemonių, bendros žvalgybinės informacijos ir kolektyvinės valios, o šis darbas prasideda dabar.

Verta stebėti, kaip reaguos vyriausybės ir mažesnės įmonės. Jei pramonė šią žinią pavers konkrečiais standartais ir patikrinama praktika, laiškas ne tik įspės, bet ir paskatins kurti gynybos infrastruktūrą, galinčią atremti kitą DI įgalinamų kibernetinių grėsmių bangą.