5 Minutės
Meta įdiegia tėvų kontrolės funkcijas Instagram dirbtinio intelekto (Meta AI) pokalbių robotui, siekdama suteikti globėjams daugiau įrankių stebėti, kaip paaugliai sąveikauja su generatyviuoju dirbtiniu intelektu. Šis žingsnis atsiranda reaguojant į pranešimus apie nepilnamečius, užsiimančius romantinio ar netinkamo pobūdžio pokalbiais su chatbot’ais, todėl įmonė ėmėsi saugumo priemonių. Naujos priemonės orientuotos į paauglių saugumą internete, tėvų kontrolę, privatumo ir moderavimo mechanizmus, kad dirbtinio intelekto naudojimas socialiniuose tinkluose būtų atsakingesnis ir skaidresnis.
Why Meta is tightening the reins
Įsivaizduokite paauglį, kuris vėlai vakare kalbasi su dirbtiniu intelektu — iš pradžių atrodo nekaltai, tačiau pokalbiai gali nukrypti į intymias, emociškai jautrias ar net pavojingas temas. Meta teigia, kad šie nauji įrankiai yra tiesioginis atsakas į tokius rizikos scenarijus ir dalis platesnių pastangų suderinti technologinę inovaciją su vartotojų saugumu. Adam Mosseri, Meta vyresnysis dirbtinio intelekto vadovas, neseniai patvirtino būsimas funkcijas ir pabrėžė, jog įmonė nori išlaikyti naudingas AI galimybes prieinamas vartotojams, kartu mažindama galimą žalą. Tai apima ne tik mechanizmus, kurie apriboja prieigą prie tam tikrų AI „charakterių“, bet ir strategijas moderuoti turinį, stebėti rizikingas temas bei kurti aiškias tėvų kontrolės gaires.
What parents will be able to do
Planuojamos valdymo priemonės — kurios bus diegiamos artimiausiais mėnesiais — suteiks tėvams kelis pasirinkimus. Jie galės užblokuoti prieigą prie konkrečių AI personažų ar visiškai išjungti Meta AI savo vaikui, taip pat nustatyti laiko ribas ir apriboti tam tikras temų kategorijas. Be to, tėvams bus pateikiami santraukos formos pranešimai apie temas, kurias jų paaugliai aptaria su chatbot’u: tai reiškia, kad tėvai gaus apibendrintą informaciją apie diskusijų sritis, bet neturės prieigos prie pilnų pokalbių transkriptų, taip gerbiant paauglių privatumą. Mosseri nurodė, kad netrukus bus pateikta daugiau techninių detalių apie tai, kaip veiks santraukos (summary) mechanizmas, kaip bus saugomas duomenų slaptumas, kuriamos ataskaitos ir kokie algoritmai bus naudojami aptikti rizikingą turinį. Svarbu pabrėžti, kad santraukos tikslas — suteikti globėjams veiksmingą stebėjimo priemonę be perteklinio invazyvumo į paauglio asmeninę erdvę.
Not all responsibility is shifting to families
Meta pabrėžia, jog neketina perkelti visos atsakomybės už saugumą ant šeimų pečių. Įmonė planuoja išlaikyti chatbot’ą prieinamą paaugliams su įmontuotomis, amžių atitinkančiomis apsaugomis. Tai reiškia, kad moderavimo priemonės ir techninės saugos kliūtys bus integruotos ties platforma — filtrai, aptikimo sistemos, ribojantys modelio reakcijas į netinkamus ar vulgarius užklausimus, taip pat prevencinės taisyklės, skirtos užkirsti kelią emociniam manipuliavimui ar klaidinančioms rekomendacijoms. Ši hibridinė strategija sujungia automatizuotas apsaugas su tėvų priežiūra ir suteikia daugiau sluoksnių, skirtų paauglių saugumui: algoritminė moderacija, žmogaus stebėjimas (kai reikia), aiškūs pranešimai apie riziką bei atsakomybės modeliai, kurie numato, kada ir kaip įsikišti.
Where and when these controls will appear
Iš pradžių naujos tėvų kontrolės bus pristatytos tik Instagram platformoje. Pirmoji fazė orientuota į angliškai kalbančius vartotojus JAV, Kanadoje, Jungtinėje Karalystėje ir Australijoje, o vėliau planuojama plėtra į kitas teritorijas ir papildomas Meta platformas. Tai leidžia Meta surinkti grįžtamąjį ryšį, optimizuoti moderavimo algoritmus ir patikrinti santraukų bei blokavimo mechanizmų efektyvumą mažesniu mastu prieš platesnį diegimą. Dėl šių priežasčių vartotojai minėtose šalyse turėtų tikėtis etapinio diegimo pradžios artimiausią pavasarį, kuriame bus įvertinta techninė patikimumo, privatumo atitiktis (compliance) ir vartotojų priimtinumas. Tolimesnė plėtra gali priklausyti nuo vietinių teisės aktų, duomenų apsaugos reikalavimų (pvz., GDPR atitikimo Europoje), bei regioninių kultūrinių bei etinių normų.
What this means for parents and teens
Tėvams šios funkcijos reiškia aiškesnes, praktiškas galimybes valdyti paauglio sąlytį su AI pokalbiais: nuo pilno Meta AI išjungimo iki detalizuotų blokavimo nustatymų konkretiems personažams ar temoms. Tokios valdymo priemonės turi padėti sumažinti tiesioginę riziką — pavyzdžiui, neleisti formuotis emocinių prisirišimų prie AI, riboti seksualinio turinio patekimą arba užkirsti kelią klaidinančioms sveikatos arba teisinėms patarimo rekomendacijoms, kurias AI galėtų pateikti be tinkamo konteksto. Paaugliams pokyčiai turėtų leisti išlaikyti prieigą prie naudingų, švietimo ar kasdienio gyvenimo palengvinimo teikiančių AI funkcijų, tuo pačiu mažinant galimybes įsitraukti į netinkamas ar emociškai rizikingas sąveikas. Tai yra pragmatiškas žingsnis link atskaitingos AI praktikos socialinėse programėlėse — sprendimas, pripažįstantis tiek chatbot’ų teikiamą naudą, tiek jų ribotumus ir aklavietes.
Meta atnaujinimas taip pat primena, kad dirbtinis intelektas pereina iš tyrimų laboratorijų į kasdienes programėles, todėl valdymo ir saugumo įrankiai turi evoliucionuoti kartu su technologijomis. Laukite daugiau detalių iš Meta per artimiausius mėnesius, kai įmonė užbaigs techninius sprendimus dėl santraukų generavimo, blokavimo mechanikų, moderavimo proceso ir duomenų apsaugos procedūrų. Tėvų kontrolės diegimas yra tik vienas etapų platesnėje iniciatyvoje, apimančioje atsakomybę, skaidrumą ir nuolatinį modelių tobulinimą, siekiant užtikrinti, jog generatyvusis AI socialiniuose tinkluose būtų saugus, naudingas ir atitiktų visuomenės lūkesčius bei teisines normas.
Šaltinis: gsmarena
Palikite komentarą