Kompiuterių mokslininkas, Nobelio premijos laureatas ir dažnai dirbtinio intelekto krikštatėviu vadinamas Geoffrey Hintonas paragino DI kūrėjus taikyti reguliavimo patikras, panašias į farmacijos bendrovėms privalomas procedūras. Naeimeh Reza vedamoje laidoje „Protingos merginos kvaili klausimai“ jis teigė, kad prieš viešai pristatydamos savo modelius įmonės turėtų reguliuotojams įrodyti, jog šie yra saugūs.

„Negalima tiesiog sukurti naujo vaisto ir išleisti jo į rinką. Turite įtikinti FDA, o tam reikia atlikti daug darbo, kuris kainuoja maždaug 1 mlrd. JAV dolerių. Man atrodo, kad tai yra minimalus reikalavimas, kurį turėtume taikyti DI“, – laidoje sakė Hintonas.

Griežtesnė saugumo priežiūra

Hintono siūlymas nuskambėjo atsinaujinus diskusijoms apie DI rizikos valdymą. Jį paskatino tiek plačiai nuskambėję įspėjimai apie galimą technologijos žalą ateityje, tiek neseniai priimtas „OpenAI“ sprendimas atidėti naujausio modelio pristatymą, kai vidiniai bandymai sukėlė abejonių dėl modelio gebėjimo laikytis naudotojų nurodymų ir neviršyti jam suteiktų įgaliojimų.

„OpenAI“ saugumo sistemų direktorė Sachi Jain teigė, kad bendrovės GPT-6.1 Astra pasižymėjo didesniu atsparumu ir geresniais gebėjimais spręsti sudėtingas užduotis, tačiau nepakankamai gerai kontroliavo prieigos lygius ir tiksliai informavo apie savo veiksmus. Hintonas šį pavyzdį nurodė kaip vieną priežasčių, kodėl gali prireikti išorinio vertinimo.

Jis taip pat perspėjo, kad pažangos tempas spartėja, nes DI įrankiai vis dažniau padeda tobulinti patys save. „Eksponentinis augimas vyksta labai greitai. Dabar matome rekursyvaus savęs tobulinimo pradžią, nes DI įvairiais būdais naudojamas savo paties atnaujinimui“, – sakė jis.

Hintonas palyginimą su FDA pateikė kaip praktinį atspirties tašką, o ne tikslų reguliavimo planą. Jis teigė, kad nepriklausomoms saugumo patikroms reikalingos išlaidos ir pastangos turėtų būti pakankamai didelės, kad būtų įvertinta, ar kūrėjai iš tiesų pasirengę plačiai diegti didelių gebėjimų sistemas.

„Tai tik spėjimas, tačiau, manau, turime vienus ar dvejus metus, kol padėtis taps gerokai blogesnė nei dabar“, – pridūrė Hintonas, nurodydamas trumpą laiką, per kurį rizika gali smarkiai išaugti.