Gatesas ragina reguliuoti dirbtinio intelekto rizikas

Billas Gatesas Nilay Pateliui sakė, kad per dvejus ar trejus metus dirbtinis intelektas padarys apčiuopiamos žalos kibernetinio saugumo ir darbo rinkos srityse.

Ši prognozė nuskambėjo pastebimai pasikeitus Gateso tonui. Anksčiau viešai optimistiškai DI vertinęs Gatesas, šią vasarą išsakęs nerimą keliančią pastabą ir atskirame interviu „New York Times“ DI pavadinęs „pavojingiausiu dalyku, prie kurio žmonija kada nors priartėjo“, dabar tvirtina, kad sparčiai tobulėjant modeliams būtinas tiesioginis valdžios institucijų įsikišimas, siekiant suvaldyti rizikas ir išsaugoti žmonių darbo vietas.

Išsamiame pokalbyje su „The Verge“ vyresniuoju redaktoriumi ir tinklalaidės „Decoder“ vedėju Nilay Pateliu Gatesas paaiškino, kodėl per vienus metus įvykęs modelių gebėjimų šuolis kelia skubų susirūpinimą, kodėl nefiltruotų modelių leidimas veikti asmeniniuose kompiuteriuose yra neatsakingas ir kodėl net palankiausiu scenarijumi ateinantys 20 metų bus vieni neramiausių žmonijos istorijoje. Jis ne kartą pabrėžė, kad atsakomybė turi tekti viešosioms institucijoms, o ne įmonėms, kurios prižiūri pačios save.

Konkurencija, priežiūra ir savanoriško susilaikymo ribos

Gatesas teigė, kad tokios laboratorijos kaip „OpenAI“, „Anthropic“ ir „Google DeepMind“ veiklą pradėjo žadėdamos atsakingą valdymą ir deklaruodamos, kad saugumas yra svarbiausias prioritetas, tačiau netrukus įsitraukė į intensyvias komercializavimo lenktynes. Jis paminėjo vadovus, įskaitant Samą Altmaną, Dario Amodei, Satyą Nadellą ir Sundarą Pichai, kaip pramonės lyderius, žinančius apie vidinius perspėjimus, tačiau tvirtino, kad kelioms konkuruojančioms bendrovėms varžantis savanoriški stabdžiai vargiai gali išlikti veiksmingi.

Pradinę „OpenAI“ struktūrą ir jos ne pelno siekiančius įsipareigojimus jis apibūdino kaip veiksmingus tik tol, kol viena organizacija buvo technologinės pažangos priešakyje. Atsiradus daugiau konkurentų, Gateso teigimu, vyriausybės privalo įsikišti taip, kaip reguliuoja kitas pavojingas technologijas. Jis stebėjosi, kad iki šiol nėra vyriausybės nustatyto modelių vertinimo ir testavimo proceso prieš juos viešai išleidžiant, ir lygino tai su orlaiviams bei automobiliams taikomais reguliavimo standartais.

Jis teigė, kad vyriausybės privalo nustatyti privalomą DI modelių vertinimą ir testavimą prieš juos diegiant.

Vietiniai modeliai, platformų kontrolė ir biologinė rizika

Gatesas aiškiai atskyrė debesijoje talpinamus ir stebimus modelius nuo atsisiunčiamų atvirųjų svorių modelių. Didžiosios laboratorijos, modelius talpinančios debesijoje, išlaiko saugumo apsaugas ir gali stebėti jų naudojimą, taip mažindamos trumpalaikę riziką. Jo teigimu, pavojų kelia modeliai, kurių saugumo ribojimus galima pašalinti ir kurie gali būti vykdomi vietoje, naudotojų aparatinėje įrangoje.

Jis tvirtino, kad modeliams peržengus tam tikrą gebėjimų ribą, neatsakinga leisti platinti jų neapdorotus svorius, skirtus vykdyti asmeniniuose kompiuteriuose. Vietoj to tokie modeliai turėtų veikti tik patvirtintose platformose, kurios neleistų manipuliuoti saugumo mechanizmais. Gatesas šią logiką pritaikė ir platinimo platformoms: jis ragino nustatyti kitokias galingų modelių skelbimo taisykles bei įdiegti kontrolės priemones tokiose platformose kaip „GitHub“, kuri šiandien taiko nedaug kodo publikavimo apribojimų. Jis teigė, kad platforma turėtų reikalauti JAV vyriausybės patvirtinimo prieš leidžiant paskelbti modelį, galintį vykdyti plataus masto kibernetinę ar biologinę ataką, tokia forma, kuri leistų naudotojams jį keisti ir pašalinti apsaugos priemones.

Gatesas perspėjo, kad neapsaugotas DI gali demokratizuoti griaunamąją galią taip, kaip jos neapribojo net branduolinės eros suvaržymai. Atominiame amžiuje, jo teigimu, tik didžiosios valstybės galėjo sukurti masines aukas sukeliančius ginklus, o neapsaugotas DI galėtų suteikti pražūtingų kibernetinių ir biologinių gebėjimų mažoms grupėms.

Atsakydamas į klausimą, ar politika turėtų būti orientuota į lustus, ar į platformas, Gatesas pabrėžė, kad svarbiausia priežiūros sritis yra platinimo ir vykdymo kontrolė platformų lygmeniu. Jis teigė, kad valdžios institucijoms delsiant galingi modeliai taps prieinami veikėjams, kurių nepasiekia stebėsena ir teisėsauga.

Gatesas taip pat aptarė kūrėjų nesutarimus dėl modelių sąmoningumo. Jo teigimu, diskusijos apie bendrąjį dirbtinį intelektą ar savimonę saugumo požiūriu iš esmės nėra reikšmingos: svarbiausias klausimas yra pragmatiškas ir aiškus – ar sistema gali išjungti bankų sistemą arba elektros tinklą. Jis pridūrė netikintis, kad dabartiniai modeliai turi žmogui būdingą sąmonę, ir sutiko su „Microsoft“ atstovu Mustafa Suleymanu, kad modeliai neturėtų būti laikomi sąmoningomis būtybėmis.

Kalbėdamas apie techninius kontrolės metodus, Gatesas išskyrė tris kryptis. Pirmoji – išorinis prižiūrėtojas su aiškiomis simbolinėmis taisyklėmis, tikrinantis modelio veiksmus už paties modelio ribų. Antroji – mokymo tikslų keitimas, nes dabartiniuose sustiprinamojo mokymosi metoduose galima išnaudoti arba apeiti viską, kas nėra aiškiai įtraukta į atlygio funkciją. Trečioji – geresnis vidinis skaidrumas, leidžiantis inžinieriams tikrinti modelį ir nustatyti klaidų ar neįprasto elgesio šaltinį tinklo viduje.

Gatesas teigė, kad dabartinė praktika mokyti modelius ir vėliau stebėti jų elgesį nėra neišsprendžiama problema, tačiau jai reikia sutelktų pastangų visose trijose srityse.

Jis taip pat aptarė ekonomines pasekmes ir privatų eksperimentą, kurį, kaip teigė, atliko su „Anthropic“ modeliu „Claude“. Gateso nuomone, DI palaipsniui perims daugelį protinio darbo užduočių – nuo klientų aptarnavimo, telefoninių pardavimų ir apskaitos iki sudėtingų funkcijų, tokių kaip programavimas, matematiniai tyrimai ir medicininė diagnostika. Vėlesnė pažanga paskatins ir fizinių robotų automatizavimą fizinio darbo srityse.

Kadangi darbas suteikia pajamas ir gyvenimo prasmės pojūtį, Gatesas teigė, jog visuomenės galėtų sąmoningai palikti tam tikras pareigas žmonėms net tais atvejais, kai DI juos pranoktų. Jis apibūdino pokalbius su „Claude“ apie žmonėms paliekamą darbo vietų dalį ir teigė bandęs nustatyti tikslą, kad maždaug 40 proc. darbo vietų liktų žmonių rankose. „Claude“ nuosekliai atsakydavo, kad toks apribojimas būtų dirbtinis DI gebėjimų ribojimas.

Gatesas perspėjo, kad be sąmoningai nustatytų ribų net 40 proc. darbo vietų gali nelikti žmonių rankose. Jis prognozavo, kad tarp matematikų jau matomi pokyčiai išplis ir į kitas sritis, o nors medicinos pažanga ir mažesnės pragyvenimo išlaidos pareikalaus laiko, žala saugumui ir darbo rinkai tikriausiai pasireikš per dvejus ar trejus metus.

Baigdamas jis teigė, kad net tinkamai valdant DI ateinantys du dešimtmečiai bus itin permainingi: vieni žmonės priims šią technologiją, o kiti gali nuo jos atsitraukti į bendruomenes, panašias į amišų. Jis sakė, kad galiausiai gali prasidėti gausos era, tačiau ragino atvirai perspėti visuomenę ir aktyviai rinktis politikos sprendimus, kurie nulemtų, kaip tokia ateitis bus paskirstyta.

Gatesas teigė nemėgstantis skelbti nerimą keliančių prognozių, tačiau tvirtino, kad būtina perspėti visuomenę ir kad žmonija vis dar gali pasirinkti, kaip valdyti šias technologijas.