Nadella ragina griežtinti pažangaus DI modelių kontrolę

„Microsoft“ vadovas Satya Nadella išsamiame įraše platformoje „X“ rašė, kad kūrėjai ir reguliuotojai nuo pat pradžių pažangius dirbtinio intelekto modelius turėtų vertinti kaip galimą grėsmę ir kurti juos su veiksmingomis ribojimo priemonėmis. Jis teigė, kad būtina iš naujo įvertinti DI „pasitikėjimo architektūrą“, nes dabartinės praktikos, kai galingi modeliai laikomi viena į kitą sudėtomis juodosiomis dėžėmis, nepakanka.

Modelių atskyrimas nuo kontrolės ir priežiūros

Nadella teigė, kad modelių rekomendacijų, atsakymų ar veiksmų neturėtume priimti be struktūrinių saugiklių. Jis siūlė kurti architektūras, kuriose modeliai būtų atskirti nuo užduotis valdančių ir vykdančių sistemų, o ribojimo bei saugos kontrolės priemonės galėtų veikti nepriklausomai nuo paties modelio. Jo teigimu, toks atskyrimas leistų užtikrinti savarankiškesnę modelių elgsenos priežiūrą ir stebėseną.

Kalbėdamas apie kompromitavimo riziką, Nadella rekomendavo nuo pat pradžių laikytis prielaidos, kad modelis gali tapti nevaldomas, ir atitinkamai diegti ribojimo priemones. Jis tai apibūdino kaip veiklos saugos reikalavimą: „Turėtume manyti, kad modelis nuo pat pradžių yra nevaldomas, todėl privalome jį apriboti. Įsivaizduokite tai kaip avarinį stabdį. Įgaliotas asmuo visada turėtų galėti sustabdyti arba išjungti modelį jam atliekant užduotį.“ Jis pridūrė, kad pajėgesniems modeliams reikės pažangesnių ribojimo technologijų ir kad joms turėtų būti nustatyti bendri standartai.

Be sustabdymo valdiklių, Nadella ragino išsamiai registruoti svarbius modelių veiksmus. Jis siūlė kaupti žmonėms suprantamus ir nuo klastojimo apsaugotus įrašus, kad būtų galima nagrinėti bei audituoti modelių veikimą ir priimamus sprendimus. Tokie įrašai, jo teigimu, padėtų peržiūrėti ir vertinti, kaip modeliai veikia praktikoje.

Daugelis Nadellos pasiūlymų sutampa su rekomendacijomis, kurios jau aptariamos įvairiose DI bendruomenės srityse. Jis pažymėjo, kad šiuo metu svarstomi tokie klausimai kaip savalaikis pranešimas apie incidentus, nepriklausomas auditas, patikrinama duomenų kilmė ir mechanizmai, skirti apriboti modelius, kai jų elgsena tampa netikėta.

Nadella įraše nepateikė techninių planų ar įgyvendinimo terminų – jo pastabos buvo suformuluotos kaip pasiūlymai ir principai, o ne konkrečios politikos gairės. Jis pabrėžė bendrų standartų ir stipresnės išorinės kontrolės poreikį, kad būtų užtikrinta tvirtesnė ir nepriklausoma pažangių DI sistemų priežiūra.