Viskas prasidėjo nuo užklausos, sukėlusios vidinį pavojaus signalą: raginimo dirbtiniam intelektui parengti tyrimo pasiūlymą, kaip pakeisti virusą, kad jis lengviau plistų. Trumpas sakinys. Labai reali rizika.
„Anthropic“ teigia, kad jos saugumo sistemos aptiko kelis mokslininkus, mėginusius pasitelkti „Claude“ potencialiai pavojingiems biologiniams pajėgumams plėtoti, ir įsikišo. Naujai paskelbtoje bendrovės ataskaitoje pateikiamos penkios atvejų analizės. Tai ne kino piktadariai, o subtilūs ir tikėtini tyrimų keliai, galintys ištrinti ribą tarp teisėto mokslo ir piktnaudžiavimo.
Vienas labiausiai nerimą keliančių pavyzdžių susijęs su čikungunija. Saugumo klasifikatorius pažymėjo prašymą parengti funkcijų įgijimo tyrimo planą, kuriuo siekta padidinti viruso užkrečiamumą ir gebėjimą išvengti imuninio atsako. Nuo čikungunijos nėra patvirtinto antivirusinio gydymo, o ši liga žmones gali išsekinti savaitėms ar net mėnesiams. Paaiškėjus, kad siūlomas darbas galėjo būti susijęs su karinėms struktūroms priklausančia laboratorija, „Anthropic“ susirūpinimas dar labiau sustiprėjo.
Funkcijų įgijimo tyrimai iš esmės nagrinėja genetinius pokyčius, keičiančius organizmo savybes. Tie patys eksperimentiniai žingsniai, padedantys kurti vakcinas ar gydymo priemones, gali būti pritaikyti ir patogenams padaryti pavojingesnius. Dėl tokio dvejopos paskirties pobūdžio automatizuotas aptikimas tampa itin sudėtingas. Kaip atskirti teisėtą saugumo tyrimą nuo žalos darymo plano? Atsakymas retai būna vienareikšmis.
Kitu atveju tyrėjas pasitelkė „Claude“, kad sudarytų nuodingų peptidų, randamų gyvačių ir kitų gyvūnų nuoduose, atlasą, ir paprašė parengti jų gamybos bei savybių optimizavimo procesą. Ataskaitoje taip pat fiksuojami bandymai naudoti modelius skaitmeninei žalai daryti: kurti sekimo schemas, programinės įrangos pažeidžiamumų išnaudojimo priemones, propagandą ir būdus įprastas sistemas paversti ginklais.
„Anthropic“ teigia užblokavusi susijusias paskyras ir panaudojanti gautas išvadas savo saugumo sistemoms tobulinti, kad automatinė apsauga taptų išmanesnė ir atsargesnė.
„Anthropic“ grėsmių žvalgybos vadovas Jacobas Kleinas tai apibūdino paprastai: „Tai nėra komiksų scenarijus, kuriame kas nors garsiai pareiškia norintis sukurti biologinį ginklą. Tai sudėtingi, painūs atvejai, kuriems reikia sprendimo.“ „Anthropic“ teigimu, toks vertinimas pateisino atsargesnį požiūrį.
Bendrovė atsisakė įvardyti susijusius asmenis ar institucijas, motyvuodama biologinių tyrimų niuansais ir neteisingo interpretavimo rizika. Vis dėlto šis epizodas kelia neatidėliotinų klausimų: kam tenka atsakomybė prižiūrėti dvejopos paskirties tyrimus, kai galingi AI modeliai yra plačiai prieinami? Kas turi teisę nubrėžti ribą? Ir kaip greitai saugumo sistemos gali neatsilikti, metodams tampant vis prieinamesniems?
Ataskaita nėra tvarkingas problemos užbaigimas. Tai sparčiai kintančios situacijos momentinė nuotrauka: AI įrankiai spartina atradimus ir, netinkamai naudojami, sutrumpina kelią nuo idėjos iki žalos. Dabar reikia tobulinti aptikimą, plėsti priežiūrą ir nuspręsti, kiek atsargumo pasaulis pasirengęs laikytis prieš suteikdamas šias galimybes tiems, kurie galėtų jomis piktnaudžiauti.
Sveiki! Esu Viltė, kasdien sekanti technologijų naujienas iš viso pasaulio. Mano darbas – pateikti jums svarbiausius ir įdomiausius IT pasaulio įvykius aiškiai ir glaustai.
Diskusija
Palikti komentarą
Komentarai
Komentarų dar nėra. Būkite pirmas.