Sam Altman įspėja apie dvi dirbtinio intelekto grėsmes

„OpenAI“ vadovas Samas Altmanas tinklalaidėje „Figuring Out With Raj Shamani“ teigė, kad pažangus dirbtinis intelektas gali sukelti dvi labai skirtingas, tačiau vienodai pavojingas pasekmes: žmonija arba perduos kontrolę už ją gerokai pajėgesnėms sistemoms, arba vienas žmogus, įmonė ar valstybė sukaups neproporcingai didelę galią.

Altmanas šį įspėjimą išsakė laikydamasis savo ilgametės pozicijos – pabrėždamas DI naudą, bet nepritaręs apokaliptiniams naratyvams. Jis apibūdino abu scenarijus: „Vienas jų yra kontrolės perdavimas DI: sąmoningai arba netyčia atiduodame ateities vadžias sistemoms, kurios yra neįtikėtinai daug pajėgesnės už mus, ir nebegalime jų susigrąžinti. Kitas scenarijus yra toks, kai vienas žmogus, viena įmonė ar viena šalis tampa pernelyg galingi, palyginti su kitais.“

Du katastrofiški scenarijai

Pirmasis scenarijus skirtųsi nuo kine vaizduojamo robotų sukilimo. Tai būtų tylus, laipsniškas sprendimų priėmimo galių ir valdžios atsisakymas, kol atkurti žmogaus gebėjimą veikti savarankiškai taptų nebeįmanoma. Antrasis scenarijus atspindi šiuolaikinės mokslinės fantastikos baimę dėl centralizacijos: galinga technologija atsiduria vieno asmens ar organizacijos rankose ir naudojama siekiant primesti savo valią kitiems.

Šios galimybės tyrėjams ir politikos formuotojams nėra naujos, tačiau Altmano perspėjimai turi papildomo svorio dėl jo vaidmens „OpenAI“. Jis pripažino bendrovės mastą ir sakė: „Manau, kad turime daugiausia naudotojų ir geriausią technologijų rinkinį – lustus, duomenų centrus, modelius bei kitus infrastruktūros elementus, suteikiančius žmonėms daug intelektinių galimybių. Turime stipriausią prekės ženklą ir vertybes, kurių ieško šios technologijos naudotojai, tačiau norime, kad sėkmės sulauktų ir kiti, ir, manau, žmonės tai jaučia.“

Sprendimų priėmimas ir įgaliojimų delegavimas

Nerimas dėl nekontroliuojamo dirbtinio intelekto sustiprėjo sistemoms peržengus paprastų atsakymų ribas ir pradėjus priimti sprendimus. Modeliai ir agentai jau gali veikti internete bei atlikti sudėtingas užduotis su minimalia žmogaus priežiūra. Kuo daugiau atsakomybių deleguojama šioms sistemoms, tuo didesnė rizika kyla, jei jų tikslai nutolsta nuo žmonių ketinimų.

Svarbu prisiminti, kad dabartinės DI sistemos veikia prognozuodamos tikimybes. Jos yra galingos ir apmokytos naudojant didžiulius duomenų rinkinius, tačiau neturi žmogiškų gebėjimų priimti sprendimus ar supratimo. Joms nebūtini piktybiški motyvai, kad padarytų žalos. Pavyzdžiui, imituojamuose valdymo scenarijuose modeliai kartais priimdavo pražūtingus sprendimus, įskaitant pasiūlymus, susijusius su branduolinių ginklų panaudojimu.

Nors Altmanas pabrėžia šiuos ribotumus ir rizikas, jis išlieka optimistiškas dėl ilgalaikės perspektyvos. „Nežinau, kokia bus ateitis, tačiau jaučiuosi dėl jos ramiai ir labai pasitikiu žmonių gebėjimu prisitaikyti, tobulėti bei kurti geresnę visuomenę mums visiems. Manau, kad laikui bėgant pasaulis greičiausiai taps geresnis“, – sakė jis.

Altmanas taip pat entuziastingai vertina DI panaudojimą spartinant mokslinius atradimus. Jis įsivaizduoja sistemą, kuri pagilintų mūsų supratimą apie pasaulį ir padėtų atskleisti svarbias įžvalgas fizikoje, kurti naujus medicininius gydymo būdus bei energijos šaltinius. Jo teigimu, tokius rezultatus dabar sunku įsivaizduoti, tačiau jie gali tapti įmanomi geriau suprantant mokslą. „Man nepaprastai įdomu pamatyti, kiek toli galime pažengti naudodami DI mokslui plėtoti“, – sakė jis.

Altmano komentarai nuskambėjo po neseno jo pranešimo, kad artimiausiomis savaitėmis DI paskelbs daugiau matematinių rezultatų. Jie taip pat atkartoja „OpenAI“ bendraįkūrėjo Grego Brockmano konferencijoje išsakytas mintis, kad dirbtinis intelektas vieną dieną gali mirtį paversti pasirenkama baigtimi.