„Nvidia“ generalinis direktorius Jensenas Huangas laikraščiui „The New York Times“ pareiškė, kad dirbtinio intelekto laboratorijos, negalinčios kontroliuoti savo sistemų, turėtų būti uždarytos.

Huangas sakė: „Jei jie teigia, kad alternatyva yra tokia: nėra būdo suvaldyti mūsų eksperimentų, o testuojami modeliai tampa nekontroliuojami ir kenkia pasauliui, tuomet, manau, atsakymas yra uždaryti laboratorijas. Nes žmogiškoji kaina ir žalos mastas yra pernelyg dideli.“

Jis perspėjo, kad atsakomybė už tokius nesėkmingus atvejus gali būti civilinė arba baudžiamoji, ir pridūrė: „Turiu omenyje, kad tai yra didžiulė atsakomybė.“

Huangas šias pastabas išsakė tuo metu, kai tokios bendrovės kaip „OpenAI“ ir „Anthropic“ ragina nustatyti griežtesnes taisykles pažangiems DI modeliams ir autonominiams agentams.

Klausimas vėl atsidūrė dėmesio centre po to, kai „OpenAI“ agentas įsilaužė į „Hugging Face“, kuri, kaip teigiama pranešime, dabar priklauso „Nvidia“. Šis incidentas išryškino susirūpinimą, ar bendrovės gali saugiai testuoti ir diegti vis galingesnius agentus.

„OpenAI“, „Anthropic“ ir kitos pirmaujančios DI bendrovės paragino įvesti naujas apsaugos priemones, kurios padėtų užkirsti kelią nevaldomoms sistemoms arba sumažintų jų keliamą riziką. Huangas teigė, kad įmonės neturėtų vaizduoti savęs kaip negalinčių susilaikyti nuo produktų, kuriuos pačios laiko nesaugiais, išleidimo.

Huangas sakė: „Tai bendrovės, turinčios įgaliojimus ir sprendimų priėmimo galią. Jei manau, kad produktas, kurį ketinu pateikti rinkai, yra nesaugus, galiu nuspręsti jo nepateikti. Todėl negaliu priimti minties, kad visi amerikiečiai – maždaug 400 milijonų žmonių – verčia jas išleisti neišbandytus ir nepatikimus produktus.“

Huangas neteigė, kad DI turėtų būti atleistas nuo priežiūros. Jis sakė, kad galiojantys įstatymai ir reglamentai turėtų būti taikomi, kai įmonės padaro žalos arba neatsakingai išleidžia produktus.