9 Minutės
Stilingų išmaniųjų akinių pora žada ateities privalumą: įamžinti gyvenimą, kol jis vyksta. Pažvelgiate į atminimo ženklą, užduodate klausimą integruotam dirbtiniam intelektui, nufilmuojate trumpą vaizdo įrašą ir einate toliau. Viskas – be pastangų. Net nepastebimai.
Tačiau už to sklandaus įspūdžio slypi kur kas mažiau matomas sistemos sluoksnis – realūs žmonės, žiūrintys, peržiūrintys ir žymintys tai, ką akiniai įrašo.
Naujas tyrimas, atliktas švediškų laikraščių Svenska Dagbladet ir Göteborgs‑Posten, atskleidė, kad subrangovai tokiose šalyse kaip Kenija peržiūrėjo Meta valdomų, dirbtinį intelektą naudojančių išmaniųjų akinių įrašus. Pasak apklaustų darbuotojų, dalis šių įrašų apimė labai asmeniškas ir kartais eksplicitiškas akimirkas iš vartotojų gyvenimų.
Tyrimo išvados patraukė Jungtinės Karalystės Informacijos komisaro tarnybos (ICO) dėmesį; ji patvirtino, kad ketina susisiekti su Meta šiuo klausimu. Reguliuotojai reikalauja paaiškinimų, kaip yra tvarkomi jautrūs vartotojų duomenys ir kiek tokių duomenų gali matyti išorės rangovai.
Žmogiškas, bet paslėptas sluoksnis už AI akinių
Meta teigia, kad peržiūros procesas reikalingas akinių dirbtinio intelekto veikimo kokybei gerinti. Kaip ir dauguma DI sistemų, technologija remiasi žmonių anotatoriais, kurie tikrina nuotraukas, vaizdo įrašus ir transkripcijas, kad patvirtintų, ar programinė įranga teisingai supranta tai, ką mato ir girdi.
Praktiškai tai reiškia, kad rangovai gali žiūrėti trumpus klipus, įrašytus akinių, arba peržiūrėti balso sąveikas su integruotu asistentu. Jų užduotis – pažymėti klaidas, žymėti objektus ir patvirtinti, ar DI atsakymai prasmingi ir atitinka kontekstą.
Apklausose cituoti darbuotojai teigia, kad tokie klipai gali atskleisti kur kas daugiau nei kasdienes situacijas.
Kai kurie įrašai, kaip pranešama, rodė žmones besinaudojančius tualetu. Kiti fiksavo intymius susitikimus. Kai kuriais atvejais darbuotojai sakė, kad filmuojamas asmuo, regis, nesuvokė, jog akiniai aktyviai filmuojami.
Be vaizdo medžiagos, rangovai taip pat tikrina transkripcijas – pokalbius tarp vartotojų ir akinių dirbtinio intelekto asistento. Tokie klausimai gali svyruoti nuo nekaltų užklausų iki itin asmeniškų temų, įskaitant komentarus apie nusikaltimus, protestus ar seksualinės prigimties pasisakymus.
Vienas tyrime aprašytas pavyzdys – transkripcija, kurioje vyras eksplicitiškai kalbėjo apie moterį, su kuria norėjo užmegzti lytinį santykį, vertindamas jos kūną.
Tokia darbo specifika atveria peržiūrėtojams platų žmogaus elgesio spektrą – dažnai be jokio platesnio konteksto ar paaiškinimo.
Kas atlieka peržiūras?
Peržiūras dažniausiai vykdo trečiųjų šalių paslaugų teikėjai ar subrangovai, samdomi dėl mažesnių darbo sąnaudų ir dėl vietos darbo rinkos prieinamumo. Tokiuose centruose dirbantys žmonės gauna apmokymus, kaip žymėti turinį ir atpažinti tam tikras situacijas, tačiau dažnai gana greitai susiduria su sudėtingu arba emocionaliai sunkiai priimtinu turiniu.
Daugelyje aprašytų atvejų darbuotojai dirba padaliniuose, kuriuose yra griežtos kontrolės priemonės: patalpų stebėjimas kameromis, draudimas turėti savo išmaniuosius telefonus darbo vietoje ir privalomos konfidencialumo sutartys. Tai sukuria darbinę aplinką, kurioje nutraukus sutartį darbuotojas gali prarasti pagrindinį pajamų šaltinį – ypač tose šalyse, kur darbo alternatyvos ribotos.
Kokie duomenys yra žymimi?
Peržiūroms pateikiama įvairios rūšies turinio: trumpi vaizdo įrašai, nuotraukos, garso įrašai ir jų automatinės transkripcijos. Tikslas – patikrinti, ar DI tinkamai atpažįsta objektus, veiksmus, emocijas, kalbą ir net intencijas. Tai apima:
- Vaizdo kadrai su viešaisiais objektais ir asmenimis;
- Intymūs arba privatūs vaizdai, atsitiktinai nufilmuoti namų aplinkoje;
- Balso užklausos ir pokalbių frazės su asmenine ar jautria informacija;
- Konteksto trūkumas, dėl kurio sunku suprasti, kas vyksta už įrašo ribų.
Tokia platumo ir intymumo kombinacija kelia specifinių privatumo rizikų, nes peržiūrėtojai dažnai neturi techninių galimybių ar teisės susisiekti su įrašuose matomais asmenimis ir patikrinti kontekstą ar sutikimą.
Griežtas konfidencialumas ir ribotos apsaugos priemonės
Darbuotojai, tvarkantys duomenis, dirba pagal griežtas konfidencialumo sutartis. Biurai stebimi kameromis, o darbuotojams dažnai draudžiama atsinešti asmenines įrangas, pavyzdžiui, telefonus, kad būtų sumažinta nutekėjimų rizika.
Pažeidus šias taisykles, darbuotojui gali būti nedelsiant nutraukta sutartis. Ten, kur darbas yra perduotas užsienio rangovams dėl mažesnių darbo sąnaudų, darbo netekimas gali reikšti rimtų finansinių pasekmių – tai, pasak pranešimų, atbaido žmones nuo viešų pareiškimų.
Vis dėlto tyrimas pabrėžia nemalonią šiuolaikinių DI produktų realybę: žmogaus peržiūrėtojai dažnai mato tokius duomenis, kuriuos vartotojai mano apdorojamus tik mašinų.
Ar galima atsisakyti duomenų rinkimo?
Žurnalistai, testavę Meta išmaniuosius akinius, pastebėjo, kad išjungti duomenų rinkimą yra sudėtinga, jei vartotojas nori naudoti įrenginio DI funkcijas. Meta perspėja klientus nesaugoti ir nekopijuoti jautrios informacijos naudodami sistemą, tačiau kritikai teigia, kad tokie įspėjimai gali neatspindėti, kiek plačiai įrašyta medžiaga yra peržiūrima.
Praktika rodo, kad „atsisakymo“ galimybės dažnai yra nominalios: daug funkcijų reikalauja duomenų srauto, kad DI galėtų teikti atsakymus realiuoju laiku, todėl visiškai išjungti srautinio duomenų perdavimo gali būti neįmanoma, jei norima išlaikyti visas interaktyvias galimybes.
Teisinės ir reguliavimo pasekmės
ICO susidomėjimas rodo, kad tokios praktikos gali pritraukti griežtesnį reguliavimą. Reguliuotojai gali reikalauti skaidrumo – pavyzdžiui, detalaus duomenų srauto aprašo, kur nurodoma, kokie įrašai siunčiami peržiūrai, kuriems rangovams ir kokiame geografinio regione jie pasiekiami.
Europoje, kur galioja Bendrasis duomenų apsaugos reglamentas (BDAR, angl. GDPR), jautrių duomenų tvarkymas reikalauja aiškių teisinių pagrindų ir papildomų saugumo priemonių. Net jei akinių gamintojas veikia už ES ribų, bet turi vartotojų duomenis, kurie yra ES piliečių, gali kilti papildomas reguliacinis spaudimas.
Anglijoje ICO nusprendė kreiptis į Meta dėl aiškumo ir atsakymų – tai gali lemti informacinius prašymus, tyrimus ar net sankcijas, jei bus rasta, kad vartotojų privatumas buvo pažeistas.
Kaip šis modelis paveikia dirbtinio intelekto vystymą?
Žmogiškoji peržiūra yra įprasta DI sistemų tobulinimo praktika. Anotavimo procesas padeda modeliams suprasti subtilybes, supaprastina klaidų taisymą ir didina sistemų tikslumą. Tačiau tai taip pat reiškia, kad DI mokymas ir grįžtamasis ryšys glaudžiai susiję su žmonių prieiga prie asmeninių duomenų.
Iš techninės perspektyvos, sprendimai, tokie kaip privatumo išsaugojimas naudojant diferencinį privatumą arba homomorfinius skaičiavimus, gali sumažinti žmogiškosios peržiūros poreikį, bet šios technologijos dažnai yra apskaičiuojamai brangios ir sudėtingos diegti realaus laiko sistemose, tokiuose kaip išmanieji akiniai.
Be to, modelių veikimo gerinimas neretai reikalauja kokybiškų, anotuotų duomenų rinkinių. Jei visiškai atsisakoma žmogiškos peržiūros, gali sumažėti DI gebėjimas teisingai atpažinti kontekstą, subtilias emocijas ar regioninius kalbos niuansus.
Privatumo rizikos ir etiniai klausimai
Šio tyrimo esmė – pabrėžti, kad technologinė pažanga ne visada lydi atitinkamas vartotojų apsaugos priemones. Kai nešiojami vaizdo ir garso įrašymo įrenginiai tampa vis įprastesni, keli etiniai ir praktiniai klausimai tampa aktualūs:
- Ar vartotojai aiškiai informuojami, kada ir kokius įrašus gali peržiūrėti žmonės?
- Ar yra mechanizmai, užtikrinantys, kad ypač jautri medžiaga būtų anonimizuota prieš pateikiant žmonių peržiūrai?
- Kaip užtikrinti, kad rangovai laikytųsi griežtų etikos ir duomenų apsaugos standartų, nepriklausomai nuo geografinės vietos?
Atsakymai į šiuos klausimus gali lemti naujas verslo praktikas ir teisinius reikalavimus, kuriuos turės įgyvendinti gamintojai ir paslaugų teikėjai.
Kaip saugotis vartotojams?
Vartotojams, svarstantiems įsigyti ar naudoti išmaniuosius akinius su DI funkcijomis, verta apsvarstyti kelis pagrindinius veiksmus:
- Perskaityti privatumo politiką ir duomenų tvarkymo sąlygas – atkreipti dėmesį, ar nurodoma trečiųjų šalių peržiūra ir kuriose šalyse ji vykdoma;
- Apsiriboti DI funkcijų naudojimu viešose situacijose arba išjungti tam tikras funkcijas, jei tai įmanoma;
- Naudoti asmens duomenų anonimizavimo įrankius, jei įrenginys tai leidžia;
- Sekti naujienas apie reguliavimo pokyčius ir skaidrumo reikalavimus gamintojams.
Nors šios priemonės nepašalins visų rizikų, jos gali sumažinti tikimybę, kad intymūs ar jautrūs duomenys bus nereikalingai peržiūrimi išorinių darbuotojų.
Reguliavimo vaidmuo ir sektoriaus atsakas
Reguliatoriai visame pasaulyje stebi, kaip didžiosios technologijų bendrovės tvarko duomenis ir kokias užtikrinimo priemones taiko. ICO kreipimasis į Meta yra tik vienas iš pavyzdžių; panašios institucijos gali sekti tyrimo rezultatus ir imtis veiksmų savo jurisdikcijose.
Rinkos žaidėjams tai siūlo galimybę ne tik apsisaugoti nuo potencialių sankcijų, bet ir suteikti konkurencinį pranašumą – aiškiai komunikuojant apie duomenų tvarkymo praktiką, diegiant papildomas technines saugumo priemones ir ribojant žmonių prieigą prie ypač jautrių duomenų.
Tuo pačiu metu technologijų bendruomenė turi diskutuoti apie inovacijų ir privatumo pusiausvyrą: kaip išsaugoti DI pažangą, bet tuo pačiu sumažinti etines ir privatumą pažeidžiančias praktikas.
Pirmieji žingsniai gerinant skaidrumą
Konkrečios priemonės, kurias gali priimti gamintojai ir paslaugų teikėjai, apima:
- Detalių metaduomenų žymėjimas, kad peržiūrėtojai matytų tik būtinas duomenų dalis;
- Automatinę jautraus turinio filtraciją ir anonimizaciją prieš pateikiant žmogaus peržiūrai;
- Griežtus sutartinius reikalavimus rangovams ir reguliarų nepriklausomą atitikties auditą;
- Vartotojo pasirinkimo ir sutikimo mechanizmų stiprinimą.
Tai sudėtingi, bet įgyvendinami žingsniai, kurie gali reikšmingai sumažinti atsitiktinių ar nepageidaujamų įrašų patekimą į žmonių peržiūrą.
Išvados: kas toliau?
Tyrimas apie Meta išmaniuosius akinius ir trečiųjų šalių peržiūras primena, kad net modernios, „automatinės“ technologijos dažnai reikalauja žmogiškojo indėlio. Tai kuria privatumo spragas ir etinius iššūkius, ypač kai jautri informacija gali būti peržiūrima rangovų kituose regionuose.
Reguliuotojų susidomėjimas – pavyzdžiui, ICO žingsnis – rodo, kad potencialus skaidrumo trūkumas ir rizikos gali turėti teisinių pasekmių. Vartotojai, gamintojai ir reguliuotojai turės bendradarbiauti, kad rastų pusiausvyrą tarp DI pažangos ir duomenų apsaugos.
Galutinė žinia – paprasta: kai nešiojami foto ir garso įrašymo įrenginiai tampa vis įprastesni, būtina užtikrinti, kad privatumas, atsakomybė ir skaidrumas eitų koja kojon su technologine naujove.
Palikite komentarą