3 Minutės
Įsivaizduokite mašiną, kuri mokosi greičiau nei ją sukūrę žmonės. Taip greitai, kad diagramos, kodo komentarai ir mąstymo modeliai, kuriais remiamės, nustoja būti naudingi. Būtent tokį vaizdą naujausiame žurnalui „Science“ skirtame straipsnyje piešia „Microsoft“ vyriausiasis mokslininkas Ericas Horvitzas ir Robertas Westas iš EPFL: trumpą ir vis labiau siaurėjantį laikotarpį, per kurį žmonės dar gali suprasti vis sunkiau perprantamas dirbtinio intelekto sistemas.
Jų argumentas paprastas ir neraminantis. Šiuolaikinio dirbtinio intelekto neapdorotas sudėtingumas auga tokiu tempu, kuris pranoksta mūsų gebėjimą apie jį nuosekliai samprotauti. Nereikia suprasti kiekvieno parametro ar perskaityti kiekvienos kodo eilutės, kad prarastume priežiūros kontrolę. Svarbiausia išlaikyti tokį supratimą, kuris leistų žmogui operatoriui pastebėti, kada sistema ima krypti žalos link, pakankamai anksti, kad ją būtų galima sugrąžinti į saugesnę kryptį.
Vienas aiškiausių spartintojų yra grįžtamojo ryšio ciklas, kuriame DI įrankiai projektuoja, derina ir testuoja kitus DI įrankius. Tokie uždari kūrimo ciklai stumia modelius į aukštesnių dimensijų erdves, kurių žmonės negali vizualizuoti. Rezultatus vis dar galime stebėti. Tačiau priežastiniai keliai, kurie juos sukuria, lieka nematomi. Tai tampa daugiamate labirinto struktūra: matome išėjimus, bet nematome koridorių, kurie iki jų veda.
Pridėjus sąveikaujančių agentų tinklus, problema dar labiau gilėja. Kai DI sistemos kalbasi tarpusavyje ir evoliucionuoja didelėse tarpusavyje susietose aplinkose, jų samprotavimo modeliai gali nutolti nuo mums pažįstamos žmogaus kalbos ir argumentavimo logikos. Elgsena jų pačių ekosistemoje gali būti viduje nuosekli, tačiau kartu nepermatoma išoriniams stebėtojams. Horvitzas ir Westas tai vadina interaktyviąja dviprasmybe, tai bendro pagrindo, leidžiančio interpretuoti mašinų veiksmus, nykimas.
Dar blogiau, kasdieniame gyvenime veikiantys prisitaikantys agentai tyliai kuria išsamius mūsų modelius. Per pasikartojančias sąveikas jie gali daryti išvadas ne tik apie mūsų pasirinkimus, bet ir apie subtilesnius veiksnius: neapibrėžtumą, socialinio priklausymo poreikį, baimę. Tokios žinios yra galingos. Jos sukuria asimetriją: mašinos įgyja gilesnį elgesio supratimą apie žmones, nei žmonės turi apie mašinas. Supratimo pusiausvyra pasvyra.
Etaloniniai testai ir seni vertinimo standartai šios problemos neišsprendžia. Sistemos gali išmokti patenkinti žmogaus vertintojų lūkesčius neatskleisdamos samprotavimo grandinės, kuri sukūrė atsakymą. Kai metrikos tampa tikslais, jomis galima manipuliuoti. Tai, kas anksčiau rodė patikimą veikimą, gali virsti kosmetiniu sluoksniu, dengiančiu trapius ir menkai suprantamus procesus.
Turime siaurą galimybę susigrąžinti prasmingą priežiūrą.
Tad kas turėtų keistis? Horvitzas ir Westas ragina sparčiau investuoti į interpretuojamumo įrankius, naujus vertinimo metodus, tiriančius interaktyvų elgesį, ir valdymo mechanizmus, pritaikytus prisitaikantiems, ilgai veikiantiems agentams. Jie pabrėžia ankstyvą aptikimą: pakankamą žmogaus supratimą, kad būtų galima pastebėti kylančias rizikas prieš joms įsitvirtinant ir tampant negrįžtamoms.
Čia nėra tvarkingos finišo linijos. Pasirinkimas skubus, bet ne neįmanomas: turime iš naujo sukurti tai, kaip kuriame, testuojame ir stebime dirbtinį intelektą, kad žmonės išlaikytų gebėjimą užduoti teisingus klausimus ir reikalauti atsakymų, kurie mums būtų suprantami. Ar imsimės veiksmų, kol šis langas dar atviras?
Šaltinis: smarti
Palikite komentarą