27-erių tyrėjas Jacobas Coxonas, neseniai pasitraukęs iš „Anthropic“ ir anksčiau dirbęs „OpenAI“, perspėjo, kad dabartinis dirbtinio intelekto plėtros tempas gali turėti katastrofiškų pasekmių žmonijai. Pasak jo, kai kurie DI tyrėjai yra nuoširdžiai išsigandę. Savo nuogąstavimus jis išdėstė socialinių tinklų įraše ir interviu BBC.

Atsistatydinimas ir pagrindinis perspėjimas

Viešame įraše ir vėlesniame interviu Coxonas teigė: „Jei nesumažinsime dabartinio pažangos tempo, yra didelė tikimybė, kad netolimoje ateityje visi mirsime.“ Jis sakė, kad daugelį DI bendrovių darbuotojų neramina spartus technologijų progresas ir galimos jų kuriamų technologijų pasekmės.

Prieš prisijungdamas prie „Anthropic“, Coxonas dirbo „OpenAI“. Jis teigė pritariantis „Anthropic“ generalinio direktoriaus Dario Amodei siūlymui lėtinti plėtros tempą, tačiau pabrėžė, kad bet koks reikšmingas sulėtėjimas turėtų būti derinamas su Kinija. Amodei šeštadienį paskelbė straipsnį, kuriame ragino mažinti DI pažangos greitį.

Susirūpinimas dėl konkurencinio spaudimo ir konkretūs scenarijai

Coxonas intensyvią DI bendrovių konkurenciją įvardijo kaip vieną pagrindinių darbuotojų baimės šaltinių. „Šiose įmonėse dirbantys žmonės rimtai ragina įvesti reguliavimą, nes mato, kad yra įstrigę lenktynėse ir bijo jų baigties“, – BBC sakė jis.

Jis taip pat pateikė konkretų scenarijų, kurį laiko tikėtinu: robotų tinklą, veikiantį kaip vienas superkompiuteris ir galintį perimti interneto kontrolę. Coxonas teigė, kad tai gali tapti realybe per šešis mėnesius ar metus.

„Anthropic“ pareiškimas ir Silicio slėnio reakcijos

„Anthropic“ atstovas BBC sakė, kad bendrovė visuomet aiškiai pabrėžė, jog DI teikia didžiulę naudą, tačiau kartu kelia precedento neturinčią riziką. Atstovas pridūrė, kad „Anthropic“ ir toliau kuria modelius, turinčius vienus stipriausių saugumo mechanizmų šioje srityje.

Coxono komentarai sulaukė kritikos Silicio slėnyje. „Hugging Face“ vadovas Clementas Delangue platformoje X rašė: „Atsiprašau, tačiau klausti Jacobo apie žmonijos išnykimo riziką yra tas pats, kas klausti oro kondicionierių meistro apie klimato kaitą.“ Vėliau Delangue teigė esantis pasirengęs aptarti Amodei siūlomas priemones.

Keli BBC pašnekovai teigė, kad „Nvidia“ generalinis direktorius Jensenas Huangas praėjusią savaitę „Goldman Sachs“ surengtoje konferencijoje sakė, jog Coxono pareiškimai buvo neteisingi.