Microsoft atskleidė žmonių sunkumus atpažįstant dirbtinio intelekto sukurtus vaizdus

Microsoft tyrimas parodė, kaip sunku žmonėms atskirti dirbtinio intelekto (DI) generuotus vaizdus nuo tikrų nuotraukų

Microsoft AI for Good atliktas novatoriškas tyrimas atskleidė nerimą keliantį faktą: žmonėms itin sunku atskirti DI sukurtus vaizdus nuo realių fotografijų. Apklausiant daugiau nei 12 500 dalyvių iš viso pasaulio ir išanalizavus per 287 000 vaizdų įvertinimų, paaiškėjo, kad bendras atpažinimo tikslumas siekė vos 62% – šiek tiek daugiau nei atsitiktinis spėjimas. Tai pabrėžia esminį žmonių suvokimo trūkumą, kai kalbama apie DI manipuliuotų vaizdų nustatymą.

Veiksniai, lemiantys vaizdų atpažinimo sėkmę

Veidai prieš peizažus: kur žmonės dažniausiai klysta

Tyrimas parodė, kad dalyviams geriau sekėsi atpažinti DI padirbtus žmogaus portretus, nes natūraliai esame pajutę veido bruožus ir ypatumus. Tačiau, susidūrus su DI sugeneruotais gamtos vaizdais ar miesto peizažais, atpažinimo sėkmė krito iki 59–61%. Tai rodo, kad tokio tipo dirbtinis intelektas gali sukurti vaizdus, kurie beveik nesiskiria nuo tikrų, ypač jei juose nėra akivaizdžių iškraipymų, todėl juos sunku atskirti net ir patyrusiam žiūrovui.

Darinčių DI vaizdų tikroviškumas kelia rimtą iššūkį

Tyrimo metu atliktos užduotys imitavo realias skaitmeninės aplinkos situacijas, pateikiant atsitiktinai ir tikroviškai atrinktus vaizdus, išskyrus pačius labiausiai klaidinančius. Tai rodo, kad DI technologijoms, kaip Midjourney ar DALL-E 3, tobulėjant, skirtumai tarp tikrų ir DI generuotų vaizdų daugeliui vartotojų gali visiškai išnykti.

DI atpažinimo įrankių svarba

Mašininis atpažinimas pranoksta žmogaus gebėjimus

Microsoft tyrėjai taip pat palygino žmonių rezultatus su nuosavu DI vaizdų atpažinimo įrankiu. Rezultatai buvo įspūdingi: dirbtinio intelekto sistema pasiekė daugiau nei 95% tikslumą skiriant tikrus ir sintetinius vaizdus įvairiose kategorijose. Tai įrodo, kad mašininio mokymosi sprendimai gerokai efektyvesni nei žmogaus pastangos ir bus būtini siekiant užtikrinti skaitmeninio turinio tikrumą ateityje.

Skaitmeninių vandens ženklų ir skaidrumo ribotumai

Visgi, kartu su DI generuotų vaizdų plitimu kyla ir rizikos. Nors Microsoft rekomenduoja naudoti skaitmeninius vandens ženklus ir patobulintas atpažinimo sistemas, tyrimas pastebi, kad elementarus vaizdų redagavimas gali lengvai pašalinti šias apsaugos priemones – piktavaliai gali iškirpti arba uždengti vandens ženklus, taip sumažindami jų efektyvumą kovoje su dezinformacija.

DI technologijų ypatybės: GAN, inpainting ir autentiškumas

Tyrimas taip pat atskleidė, kad senesnės DI vaizdų kūrimo technologijos, tokios kaip generatyviniai priešininkų tinklai (GAN) ar inpainting, gali būti ypač klaidinančios. Jie gali sukurti vaizdus, savo stiliumi panašius į mėgėjišką fotografiją, todėl patyrę specialistai jas pastebi rečiau nei tobulesnių modelių sugeneruotus vaizdus. Inpainting metodas, kuriais subtiliai pakeičiami maži tikrų nuotraukų fragmentai DI generuotu turiniu, parodo, kaip lengvai tokie vaizdai gali likti nepastebėti ir būti panaudoti skleidžiant dezinformaciją.

Rinkos aktualumas ir DI turinio tikrinimo ateitis

Poveikis skaitmeniniam pasitikėjimui bei saugumui

Šio tyrimo rezultatai turi didelę reikšmę tiek technologijų sektoriui, žiniasklaidai, tiek ir kasdieniams vartotojams. DI generuotų vaizdų tobulėjant, didėja apgaulės, dezinformacijos bei manipuliacijos grėsmės. Microsoft raginimas plačiau naudoti pažangias DI atpažinimo priemones atspindi augantį dėmesį skaitmeniniam pasitikėjimui ir turinio autentiškumui – tai itin svarbu socialinėms platformoms, žiniasklaidos priemonėms bei reguliavimo institucijoms visame pasaulyje.

Naudojimo sritys ir industrijos reakcija

Modernių DI turinio atpažinimo sprendimų taikymas sparčiai plečiasi – nuo socialinių tinklų vaizdų autentiškumo tikrinimo iki didžiųjų politikos, komercijos ar žurnalistikos sričių dezinformacijos valdymo. Microsoft vykdomos švietimo kampanijos ir moksliniai tyrimai pabrėžia, kad norint veiksmingai reaguoti į potencialias grėsmes, būtina technologinė inovacija ir tarpsektorinis bendradarbiavimas.

Apibendrinant galima teigti, kad tobulėjant DI vaizdų generavimo technologijoms, mūsų priklausomybė nuo modernių atpažinimo ir tikrinimo priemonių tampa ne tik naudinga, bet ir būtina, siekiant apsaugoti skaitmeninį pasaulį nuo netikro DI turinio.