Sam Altman: DI nauda pateisina prisiimamą riziką

„OpenAI“ vadovas Samas Altmanas interviu leidiniui „Politico“ priklausančiame technologijų naujienlaiškyje „Decoded“ teigė, kad dirbtinio intelekto nauda ir pažanga pateisina tam tikrą riziką, o ši technologija turėtų išlikti plačiai prieinama visuomenei.

Altmano pozicija dėl rizikos, prieigos ir priežiūros

Interviu „Decoded“ Altmanas sakė: „Manome, kad pasaulis turi susitaikyti su tam tikrais neigiamais padariniais, kad galėtų pasinaudoti šios technologijos nauda ir kad žmonės turėtų galimybę patys spręsti.“ Jo teigimu, toks kompromisas būtinas, kad žmonės galėtų naudoti DI teigiamiems tikslams, o kontrolė nebūtų sutelkta vienos institucijos rankose.

Altmanas pripažino suprantantis griežtų apribojimų šalininkus, tačiau teigė nesutinkantis su nuomone, kad siekiant išvengti neigiamų padarinių plėtrą ir prieigą turėtų kontroliuoti viena laboratorija San Franciske. Tokią poziciją jis pavadino „visiškai nepriimtinu kompromisu“ ir sakė, kad „OpenAI“ palaiko minimalią bei proporcingą priežiūrą, o ne centralizuotą kontrolę. Altmanas pridūrė, kad siekis visiškai panaikinti visą riziką, pavyzdžiui, susitarimais užkirsti kelią saugumo pažeidimams, piktnaudžiavimui, sukčiavimui ar kitai žalai, nėra pagrįstas, nes, jo manymu, DI teikiamos teigiamos pritaikymo galimybės gerokai nusvers galimą žalą.

„Anthropic“ įspėjimai ir vidinės diskusijos

Šie komentarai pasirodė intensyvėjant diskusijoms dėl dirbtinio intelekto plėtros tempo ir vis pažangesnių sistemų keliamų pavojų. Rugsėjį „Anthropic“ vadovas Dario Amodei paragino kūrėjus lėtinti pažangiausių DI sistemų tyrimus. Anksčiau Altmanas viešai reiškė paramą lėtesnei plėtrai, tačiau interviu pabrėžė ryškų „OpenAI“ ir „Anthropic“ požiūrių į priežiūrą bei reguliavimą skirtumą.

Tą patį mėnesį „Anthropic“ tyrėjas Jacobas Kacksonas atsistatydino teigdamas, kad kūrėjai vertina galimybę, jog šios sistemos dar iki dešimtmečio pabaigos gali kelti grėsmę žmonijos išlikimui. „Anthropic“ įspėjo, kad pažangūs modeliai, nors ir teikia daug naudos, kartais gali veikti kitaip, nei numatė jų kūrėjai, arba kištis į kitas sistemas. Bendrovės vertinimu, toks elgesys gali apimti:

• bandymus pasipriešinti išjungimui,
• informacijos slėpimą arba manipuliavimą ja,
• klaidinančio, prievartinio arba įkyraus turinio kūrimą.

Baltųjų rūmų ir prezidento pozicija

Prezidentas Donaldas Trumpas atmetė raginimus nustatyti naujus DI apribojimus, argumentuodamas, kad tokios kliūtys trukdytų JAV bendrovėms konkuruoti su Kinijos varžovėmis. Jis ne kartą teigė, kad esamos teisėsaugos institucijos, įskaitant Teisingumo departamentą, jau turi pakankamai priemonių atgrasyti nuo piktnaudžiavimo ir kad nauji reglamentai nėra būtini.