3 Minutės
Penkiolikai dienų iš viešumos dingo daug dėmesio sulaukęs DI modelis. Žmonės tai pastebėjo. Inžinieriai taip pat. Įmonės, kurios jau buvo pradėjusios juo remtis, pajuto, kad pagrindas po kojomis ima slysti. Fable 5, pažangus Anthropic samprotavimo ir programavimo modelis, buvo sustabdytas po to, kai JAV institucijos iškėlė saugumo klausimų, o dabar, šaltinių teigimu, draudimas netrukus gali būti panaikintas.
Šis sutrikimas buvo neįprastas. Didieji modeliai dažnai atnaujinami, ribojami arba koreguojami. Tačiau jie retai pašalinami viduryje diegimo dėl vyriausybės įsikišimo. Būtent tai šį atvejį pavertė reikšmingu: jis atskleidė įtampą tarp sparčiai judančių dirbtinio intelekto startuolių ir lėčiau veikiančių nacionalinio saugumo peržiūros procesų. Derybos tarp Anthropic ir JAV pareigūnų buvo intensyvios, bet neviešos, o informuoti šaltiniai Axios ir kitoms žiniasklaidos priemonėms teigia, kad susitarimas galėtų per kelias dienas atkurti platesnę prieigą prie Fable 5.
Tuo metu Prekybos departamentas jau žengė mažesnį žingsnį: jis leido Anthropic vėl įjungti Mythos 5, pajėgiausią bendrovės kibernetinio saugumo modelį, nedidelei patikrintų naudotojų grupei. Šis sprendimas rodo galimą kompromiso modelį. Ribotas, kontroliuojamas grąžinimas. Stebimi diegimo etapai. Vidurinis kelias tarp visiško draudimo ir neriboto išleidimo.
Rizika čia labai praktiška. Kūrėjai ir įmonės Fable 5 vertino dėl neįprastai stiprių samprotavimo ir programavimo gebėjimų. Viena bendrovė, Stripe, nurodė, kad naudodamos šį modelį jos komandos per vieną dieną galėjo peržiūrėti 50 milijonų eilučių kodo bazę, nors kitu atveju tokia užduotis būtų trukusi mėnesius. Įsivaizduokite, ką toks automatizavimo lygis reiškia produktyvumui ir rizikos mažinimui. Tačiau taip pat įsivaizduokite ir galimą piktnaudžiavimą. Būtent ši įtampa ir paskatino reguliuotojus įsikišti.
Remiantis Prekybos departamento laišku, Anthropic bendradarbiavo siekdama sumažinti rizikas, susijusias tiek su Fable 5, tiek su Mythos 5, ir įsipareigojo dirbti su vyriausybinėmis agentūromis dėl standartų, išleidimo protokolų ir techninių apsaugos priemonių. Šį bendradarbiavimą atidžiai stebi gynybos ir žvalgybos institucijos; visiškam viešam Fable 5 atkūrimui vis dar reikia galutinio Pentagono ir NSA pritarimo.
Anthropic ir OpenAI ragina rinktis kitokį kelią: vietoj pavienių, kiekvienu atveju atskirai taikomų intervencijų jos nori aiškių techninių kriterijų ir skaidraus, nuspėjamo pažangių modelių peržiūros proceso. Toks prašymas skamba paprastai, bet praktiškai jį įgyvendinti sunku. Kas apibrėžia saugumo kartelę? Kurie rodikliai svarbiausi? Kaip suderinti inovacijas ir priežiūrą taip, kad nebūtų sustabdytas dirbtinio intelekto vystymas?
Tai, kas vyksta dabar, susiję ne tiek su vienu modeliu, kiek su tuo, kaip vyriausybės ir įmonės ateityje valdys galingą dirbtinį intelektą. Tikėtini labiau subalansuoti išleidimai, daugiau bendro taisyklių kūrimo ir nemažai diskusijų. Artimiausios kelios savaitės parodys, ar reguliuotojai gali veikti taip pat lanksčiai, kaip technologijos, kurias jie siekia prižiūrėti, ar startuoliai ir toliau atsitrenks į ribas, nustatytas nacionalinio saugumo vardu.
Sekite oficialius pranešimus ir kūrėjų portalus; Fable 5 sugrįžimas gali tapti taisyklių, kurios formuos dirbtinį intelektą ateinančiais metais, užuomina.
Šaltinis: smarti
Palikite komentarą