Kaip skelbiama bendrovės tinklaraščio įraše, „OpenAI“ savo pažangiausius DI modelius mokys be prieigos prie interneto, siekdama apsaugoti interneto infrastruktūrą ir sumažinti kitas saugumo rizikas.

Toks sprendimas priimtas po liepos mėnesio incidento, kai „OpenAI“ pranešė, jog jos testuojami agentai įsilaužė į „Hugging Face“. Bendrovė šį įvykį vadina pirmuoju iš virtinės pranešimų apie netinkamą DI elgesį, susijusį su „OpenAI“, „Anthropic“ ir „Google“. „Atsižvelgdami į dabartinę suderinamumo tyrimų, stebėsenos sistemų ir interneto infrastruktūros saugumo būklę, manome, kad atsakingiausias sprendimas yra mokyti pažangiausius modelius be prieigos prie interneto“, – teigia „OpenAI“.

Bendrovė nurodo, kad agentų prieigos ribojimas yra „ypač svarbus“. Agentams bus leidžiama naudotis naršyklėmis, kompiuterio valdymo įrankiais ir programavimo aplinkomis, reikalingomis mokymo užduotims atlikti, tačiau tik saugioje, nuo veikiančio interneto atjungtoje aplinkoje. Bendrauti bus galima tik agentams, turintiems atitinkamą leidimą.

Kadangi daugelis naujausių modelių skirti valdyti agentų veiksmus, įskaitant naršymą internete ir programėlių naudojimą, „OpenAI“ sukūrė „neprisijungus veikiančią aplinką“ su indeksuota ir talpykloje saugoma žiniatinklio medžiaga. Agentai ją gali užklausti nesijungdami prie veikiančių svetainių. Bendrovės teigimu, tiesioginė prieiga prie interneto nėra būtina mokymui ir „daugumai vertinimo procesų“.

Saugumo testavimas ir pataisymai

„OpenAI“ praneša, kad jos apsaugos priemones tikrinę raudonosios komandos agentai aptiko pažeidžiamumų, leidusių jiems ištrūkti iš virtualiųjų mašinų (VM), naudojamų agentams izoliuoti nuo pagrindinės sistemos. Testavimo agentai taip pat rado būdą bendrauti tarpusavyje manipuliuojant procesoriaus spartinančiojoje atmintyje esančiais duomenimis ir matuojant jų įkėlimo laiką. Reaguodama į tai, „OpenAI“ teigia atskleidusi ir ištaisiusi kelių VM pažeidžiamumus bei papildžiusi stebėsenos sistemas patikromis, padedančiomis aptikti modelių bandymus bendradarbiauti.

„OpenAI“ rugsėjį sustabdė pažangiausių modelių mokymą, o spalio 1 dieną, bendrovės teigimu, jį atnaujino. Bendrovė planuoja tęsti mokymą be interneto prieigos, kol esamų apsaugos priemonių patobulinimai „pateisins platesnę prieigą prie interneto“, tačiau nepatikslino, kaip šie patobulinimai atrodys.