Yannas LeCunas žurnalui „Fortune“ sakė visiškai nesijaudinantis dėl galimybės, kad dirbtinis intelektas galėtų pražudyti žmoniją. Jis taip pat pavadino „Anthropic“ vadovą Dario Amodei kliedinčiu ir pamišusiu bei kritikavo daugelį DI laboratorijų dėl nepakankamo kibernetinio saugumo išmanymo.
Saugumo komentarai, Tiuringo premija ir minėti incidentai
LeCunas, 2018 m. kartu su Geoffrey Hintonu ir Yoshua Bengio gavęs Tiuringo premiją už darbus giliojo mokymosi srityje, sakė nepritariantis kai kurių kolegų reiškiamam dideliam susirūpinimui dėl DI rizikų. Interviu žurnalui „Fortune“ jis teigė visiškai nesibaiminantis, kad DI sunaikins žmoniją, ir nesijaudinantis dėl pastarųjų incidentų, susijusių su autonominiais agentais. Kaip pavyzdį jis paminėjo liepą prie „Hugging Face“ savarankiškai prisijungusius „OpenAI“ agentus.
Jo teigimu, tokius įvykius lemia ne egzistencinė grėsmė, o nepakankama žmogaus priežiūra ir prastas sistemų projektavimas. „Šie agentai daro būtent tai, ko jų buvo prašoma. Jie turėjo veikti izoliuotoje aplinkoje, tačiau šiose aplinkose buvo spragų ir jos buvo prastai suprojektuotos“, – sakė jis ir pabrėžė, kad tokių problemų galima visiškai išvengti.
Tiesioginė „Anthropic“ ir viešosios komunikacijos kritika
LeCunas išskyrė „Anthropic“ ir kitas laboratorijas, teigdamas, kad daugeliui jų trūksta tinkamo, principais paremto kibernetinio saugumo supratimo. Jis pridūrė, kad kai kurie DI saugumo srityje dirbantys žmonės „siekia konkrečios darbotvarkės“, o Amodei kritikavo tiesiogiai. LeCunas tvirtino, kad nors Amodei stengiasi atsiriboti nuo kai kurių efektyvaus altruizmo idėjų, jis tebėra artimas šiai krypčiai, todėl LeCunas jį yra pavadinęs kliedinčiu ir pamišusiu.
LeCunas taip pat kritikavo Dario Amodei ir „OpenAI“ vadovo Samo Altmano viešus perspėjimus, esą DI gali pražudyti žmoniją. Jo teigimu, tokie pareiškimai yra „labai žalingi“ technologijų bijantiems visuomenės nariams, o šią retoriką jis pavadino „blogiausia įmanoma rinkodaros kampanija“.
Kalbėdamas apie Amodei motyvus, LeCunas sakė: „Jis yra sąžiningas. Jis stengiasi padaryti tai, kas geriausia bendrovei, kuri artėja prie IPO. Tačiau teigti, kad DI yra pernelyg pavojingas mūsų rankose, kad jis turi būti reguliuojamas ir kad atvirojo kodo modeliai yra pernelyg pavojingi, reiškia siekti reguliavimo užvaldymo. Jei tai bus įgyvendinta Kongreso veiksmais, pasekmės bus labai blogos.“
LeCunas laikėsi pozicijos, kad pastarųjų veiklos sutrikimų priežastys yra ištaisomos žmogaus priežiūros ir sistemų projektavimo problemos, o ne neišvengiamos egzistencinės rizikos įrodymai.
„Technologijos visada mane žavėjo – nuo išmaniųjų telefonų iki dirbtinio intelekto proveržių. Džiaugiuosi galėdama dalintis naujienomis su jumis kiekvieną dieną.“
Diskusija
Palikti komentarą
Komentarai
Komentarų dar nėra. Būkite pirmas.