OpenAI JAV pateiks naujos kartos AI modelius patikrai

Kai vyriausybė paprašo pažvelgti į pažangiausio dirbtinio intelekto vidų, bendrovės paprastai stabteli. OpenAI to nepadarė, bent jau ne visiškai. George’as Osborne’as, OpenAI vadovas darbui su šalimis, Londone vykusiame SXSW renginyje auditorijai sakė, kad bendrovė savanoriškai dalyvaus naujame JAV procese, kuriuo prašoma ankstyvos prieigos prie pažangių modelių.

Iš pradžių Baltųjų rūmų remtas vykdomasis įsakas numatė 90 dienų pateikimo laikotarpį iki modelio išleidimo. Šis pasiūlymas sulaukė pasipriešinimo. Po viešos kritikos ir net tam tikro paties prezidento Trumpo viešo dvejojimo jis, kaip pranešama, buvo sušvelnintas iki 30 dienų prašymo. Galutinė formuluotė prašo suteikti prieigą, o ne jos reikalauja, tačiau vis tiek rodo griežtesnę pajėgiausių sistemų priežiūrą.

OpenAI sutiko pateikti savo naujos kartos modelius lyginamajam vertinimui, skirtam įvertinti „pažangias AI modelių kibernetines galimybes“ ir padėti nustatyti ribą, pagal kurią reguliuotojai galėtų modelį priskirti „aprėptam pažangiausios ribos modeliui“. Ką tai reiškia praktiškai? Įsivaizduokite tai kaip programinės įrangos testavimą nepalankiausiomis sąlygomis realaus pasaulio rizikoms: galimybės, piktnaudžiavimo potencialas ir saugumo būklė vertinami pagal viešojo intereso kriterijus.

Osborne’as šį žingsnį pristatė kaip iniciatyvų. Jis teigė, kad OpenAI siūlo, kaip vyriausybės galėtų stebėti dirbtinio intelekto saugą ir saugumą, ne tik JAV, bet ir visame pasaulyje. Toks požiūris atspindi pokytį pramonėje: bendrovės, anksčiau gynybiškai reagavusios į reguliavimą, dabar tam tikrą koordinavimą mato kaip būdą išvengti skubotų ir prastai parengtų taisyklių.

Vis dėlto savanoriškas bendradarbiavimas skiriasi nuo privalomos priežiūros. Bendrovės gali laikytis reikalavimų, patarti arba prieštarauti. Jos taip pat gali daryti įtaką lyginamiesiems vertinimams ir iš jų kylančioms apibrėžtims. Politikos formuotojams svarbiausias iššūkis bus užtikrinti, kad vertinimai išliktų griežti, skaidrūs ir atsparūs interesų užvaldymui. Įmonėms tai yra reputacijos, patekimo į rinką ir praktinės naštos klausimas, nes jautrius modelius tenka perduoti net ir patikrintiems vertintojams.

Reguliavimas pagal prašymą. Lyginamasis vertinimas pagal susitarimą. Prasideda naujas etapas, kuriame pramonė ir vyriausybė derasi dėl galingo dirbtinio intelekto kontrolės, o kartu kyla pažįstami, tačiau itin skubūs klausimai apie atskaitomybę, techninį skaidrumą ir tai, kas nustato saugumo ribas. Stebėkite šią sritį, patys testai gali pasakyti daugiau nei bet kuris vykdomasis įsakas.