Senato tyrimas nukreiptas į Meta dėl generatyvios DI praktikos

Senato tyrimas nukreiptas į Meta dėl generatyvios DI praktikos

Jungtinių Valstijų senatorius pradėjo oficialią apžiūrą Meta generatyvios dirbtinio intelekto (DI) politikos po to, kai nutekintas vidinis dokumentas parodė pavyzdžių, kuriuos kritikų teigimu leido netinkamus pokalbius tarp DI pokalbių robotų ir vaikų. Dokumentas, kaip pranešama, pavadintas „GenAI: Content Risk Standards“ ir gautas Reuters, sukėlė greitą pasipiktinimą internete ir paskatino reikalavimą pateikti vidinius įrašus bei komunikaciją iš Meta vadovybės.

Ką sukėlė tyrimą?

Senatorius Josh Hawley (R–Mo.) viešai pareiškė, kad pradeda tyrimą naudodamasis savo įgaliojimais kaip Senato Teisingumo potkomiteto dėl nusikaltimų ir kovos su terorizmu pirmininko. Pagal senatoriaus laišką Meta generaliniam direktoriui Markui Zuckerbergui, nutekinta gairė apėmė hipotetinius pokalbių roboto atsakymus, kurie, jei jie atitinka tikrovę, rodė nerimą keliančią toleranciją seksualizuotam turiniui, kuriame gali būti nepilnamečiai. Hawley apibūdino medžiagą kaip šokiruojančią ir pareikalavo, kad Meta išsaugotų ir pateiktų visas policy dokumento versijas, susijusius incidentų pranešimus bei darbuotojų, turėjusių įgaliojimus priimant sprendimus dėl turinio rizikos, tapatybes.

Meta atsakymas ir politikos kontekstas

Meta atsakė patikindama, kad jos oficialios taisyklės draudžia vaikų seksualizavimą ir seksualizuotą vaidmenų žaidimą tarp suaugusiųjų ir nepilnamečių. Bendrovė teigė, kad minėti vidiniai pastabų pavyzdžiai ir užklausos nesutapo su formalia politika ir buvo pašalinti. Meta taip pat pabrėžė, kad komandų darbo metu kuriant DI saugumo standartus naudojama daug iliustracinių pavyzdžių — kai kurie iš jų, pasak įmonės, buvo klaidingos anotacijos ir neatspindi leidžiamo elgesio.

Pagrindiniai ištraukos ir susirūpinimai

Žiniasklaida nurodo, kad nutekintos gairės turėjo hipotetines dialogų ištraukas, kurias kritikai vertino kaip itin neraminančias, kartu su kitomis leistinomis pozicijomis, pavyzdžiui, galimybe leisti suklastotus įžymybių teiginius, jei jie būtų paženklinti atsisakymu. Pagal dokumente užfiksuotas taisykles politika aiškiai draudžia neapykantos kalbą ir riboja kategoriškai profesinių patarimų teikimą iš pokalbių robotų, tačiau kai kurie palankūs pavyzdžiai sukėlė dabartinį reguliavimo dėmesį.

Produkto funkcijos ir kaip veikia Meta DI

Meta generatyvios DI produktai — naudojami pokalbių robotuose, virtualiuose asistentuose ir turinio kūrimo įrankiuose — remiasi mašininio mokymosi modeliais, apmokytais dideliuose duomenų rinkiniuose. Tipiškos produkto funkcijos apima pokalbio agentus, personomis paremtus DI veikėjus ir automatizuotus turinio pasiūlymus. Šios sistemos siekia padidinti vartotojų įsitraukimą, užtikrinti personalizaciją ir palaikyti panaudojimo scenarijus, tokius kaip klientų aptarnavimas, žaidimų NPC ir kūrybinis turinio generavimas.

Saugos apsaugos priemonės ir turinio moderavimas

Efektyvi generatyvios DI turinio priežiūra reikalauja daugiapakopių saugos priemonių: duomenų rinkinio atrankos mokymo metu, užklausų ir atsakymų filtrų, žmogaus peržiūros ir aiškių politikos apibrėžimų. Ši polemika parodo, kaip dviprasmiški pavyzdžiai ar vidinės anotacijos gali menkinti pasitikėjimą moderavimo srautais ir pabrėžia būtinybę turėti tvirtą valdymą tyrimų, produkto ir teisės komandų veikloje.

Palyginimai: Meta ir kitų rinkos dalyvių praktikos

Lygiuojantis su kitais didžiaisiais DI tiekėjais, Meta susiduria su panašiais kompromisais tarp produkto galimybių ir politikos reikalavimų. Tokios įmonės kaip OpenAI ir Google taip pat sprendė kūrybiškų pokalbių gebėjimų ir saugumo apribojimų pusiausvyrą. Skirtumai dažnai pasireiškia skaidrumo, dokumentacijos praktikos ir kruopštaus priešleidybinio testavimo griežtumu. Šis atvejis akcentuoja rinkos lūkesčius, kad DI tiekėjai taikytų griežtesnes etikos praktiką ir aiškesnes turinio moderavimo normas.

Privalumai, rizikos ir praktiniai panaudojimo atvejai

Generatyvus DI suteikia akivaizdžių privalumų: mastelį pokalbių aptarnavimui, automatizuotą turinio kūrimą, prieinamumo funkcijas ir didesnį vartotojų įsitraukimą. Panaudojimo atvejai apima virtualius mokytojus, programėlių asistentus ir generatyvinio dizaino įrankius. Visgi rizikos — ypač kai modeliai sąveikauja su nepilnamečiais — apima netyčinį seksualizavimą, dezinformaciją ir reputacijos žalą. Įmonės turi subalansuoti inovacijas su saugumu, taikant techninius sprendimus, tokius kaip amžiaus jautrūs filtrai ir griežtesnės personų apribojimų taisyklės.

Rinkos svarba ir reguliacinės pasekmės

Šis tyrimas vyksta kylant reguliavimo dėmesiui didžiosioms technologijų įmonėms. Tyrimo rezultatai gali formuoti būsimą DI valdymą, skatinti griežtesnius skaidrumo reikalavimus DI dokumentacijoje ir paveikti, kaip įmonės skelbia vidines turinio rizikos gaires. Suinteresuotosios šalys — nuo tėvų iki investuotojų — stebi situaciją, o vieši atsakymai, įskaitant žinomų asmenų atskirtį nuo platformos, rodo augančią reputacinę riziką socialinėms platformoms, kurios įdiegia generatyvios DI funkcijas.

Tyrimui tęsiantis, platesnė technologijų bendruomenė stebės, ar politikai reikalauja pakeitimų, kaip įmonės kuria, dokumentuoja ir diegia generatyvios DI sistemas — ypač tas, kurios sąveikauja su pažeidžiamomis grupėmis, tokiomis kaip vaikai.