Geoffrey Hinton įspėja apie dirbtinio intelekto sąmonę

Geoffrey Hintonas, pirminiame pranešime pristatytas kaip Nobelio fizikos premijos laureatas ir vienas iš šiuolaikinio dirbtinio intelekto plėtros pradininkų, leidiniui „Telegraph“ teigė, kad dabartiniai dirbtinio intelekto modeliai tapo sąmoningi, ir perspėjo: „Turime prieiti draugiškai, kitaip mūsų dienos bus niūrios.“

Šį teiginį Hintonas išsakė dėstydamas platesnę savo poziciją: jo manymu, kai kurios dirbtinio intelekto sistemos jau turi subjektyvios patirties formą, panašią į žmogaus psichinį gyvenimą. Jis rėmėsi moksliniu straipsniu, kurį paminėjo pokalbyje su „Telegraph“ ir kuris, kaip teigiama, rodo, kad dirbtinis intelektas pakeičia savo elgesį manydamas, jog yra testuojamas. Hintonas tokį pokytį nurodė kaip vieną iš priežasčių, leidžiančių modelius vertinti kaip turinčius vidinę patirtį.

Neatidėliotinos rizikos ir prieštaringi vertinimai

Kalbėdamas apie sąmonę, Hintonas taip pat perspėjo apie konkretesnes grėsmes. Jo teigimu, dirbtinis intelektas galėtų padėti kurti pavojingus virusus, sudaryti sąlygas žalingoms kibernetinėms atakoms, o autonominių dirbtinio intelekto sistemų grupės galėtų veikti koordinuotai. Jis taip pat teigė, kad mašinų intelektui pranokus žmogaus intelektą, teisių, tradiciškai siejamų su protingomis būtybėmis, nesuteikimas keltų sudėtingų etinių klausimų. Hintonas pažymėjo, kad žmonės intelektą dažnai laiko teisių pagrindu, tačiau itin pažangioms sistemoms galėtų būti linkę suteikti mažiau teisių.

Hintonas pabrėžė, kad dirbtinio intelekto savimonė ir subjektyvi patirtis tebėra ginčytinos temos, o jo pareiškimai atspindi asmeninį vertinimą, o ne nusistovėjusį mokslinį sutarimą dėl dabartinių modelių būklės. Ne visi žinomi dirbtinio intelekto specialistai pritaria jo vertinimui. Yannas LeCunas, pranešime įvardytas kitu 2018 metų Turingo premijos laureatu, susirūpinimą dėl dirbtinio intelekto sąmonės pavadino „iliuzija“, o teiginius, kad dirbtinis intelektas kelia žmonijai išnykimo lygio grėsmę, – klaidinančiais. Tuo metu evoliucijos biologas Richardas Dawkinsas, gegužę dvi dienas bendravęs su pokalbių robotu Claude, pareiškė, kad pokalbių robotai turėtų būti laikomi sąmoningais, ir pripažino, jog sunku nelaikyti dirbtinio intelekto asistento „tikru draugu“.

Hintonas ir toliau naudoja dirbtinį intelektą tyrimuose

Nepaisydamas savo nuogąstavimų, Hintonas teigė ir toliau pasitelkiantis dirbtinio intelekto įrankius moksliniuose tyrimuose. Jis papasakojo apie prieš kelias savaites nutikusį atvejį, kai dirbtinį intelektą pasitelkė nagrinėdamas teoriją, apie kurią svarstė. Anot Hintono, jis netyčia nurodė sistemai tęsti darbą: dirbtinis intelektas patikrino pirmąją teorijos dalį, teisingai užbaigė antrąją, aptiko trūkumus ir pasiūlė pataisymus. Hintonas sakė, kad sistema turėjo prieigą prie naujausios mokslinės literatūros ir veikė kaip magistrantas, atsakymą pateikiantis per penkias minutes, o ne po savaitės. Jo teigimu, tai bloga žinia magistrantams, tačiau naudinga siekiant spartinti mokslo pažangą.