4 Minutės
Įsivaizduokite, kad paprašote savo paieškos asistento greito fakto, o vietoj to gaunate makabrišką gandą: esą Donaldas Trumpas šį mėnesį mirė nuo pasiutligės. Absurdiška. Šokiruojama. Netiesa.
Būtent tokią antraštę kai kurie naudotojai pamatė bendraudami su DuckDuckGo DI, kuris pateikė teiginį, kad Trumpas mirė nuo pasiutligės, ir net nurodė tariamai vietinį WKNA News straipsnį kaip įrodymą. Išgalvota istorija nuėjo dar toliau: joje teigta, kad J.D. Vance įkando Trumpui, paklausęs Roberto F. Kennedy Jr. patarimo, nes šis neva aiškino, jog pasiutligė suteikia nepaprastų galių. Asistentas taip pat citavo ABC News pranešimą apie mirtį nuo pasiutligės Ohajuje, tikrą istoriją, tačiau joje nebuvo jokio ryšio su Trumpu.
Nė vienas iš šių teiginių nepasitvirtina. Trumpas ir Vance yra gyvi. RFK Jr. praeityje yra skelbęs kontroversiškų teiginių apie sveikatą, tačiau jis niekada niekam nepatarė užsikrėsti pasiutlige kaip sveikatos stiprinimo priemone. WKNA tekstas, kuriuo rėmėsi DI, panašu, yra suklastotas arba smarkiai manipuliuotas įrašas, paskleistas internete. Šio teksto rengimo metu DuckDuckGo viešo paaiškinimo nebuvo pateikusi.
Kaip DI paremta paieškos priemonė galėjo sujungti šiuos elementus į įtikinamą, bet visiškai melagingą pasakojimą? Atsakymas painus ir labai žmogiškas. Nesąžiningi veikėjai ir interneto troliai kuria išgalvotus įrašus, platina juos menkai žinomose svetainėse bei forumų gijose, o paieškos indeksai juos įtraukia. Paieškos DI naudojami informacijos paieškos modeliai vėliau gali aptikti šias nuotrupas, jas sujungti ir pateikti užtikrintai skambantį atsakymą be konteksto ar patikros, kurios reikalautų žmogus redaktorius.
Yra ir dar vienas veiksnys: daugelio pokalbių sistemų mokymo ir informacijos paieškos pagrindą sudaro milžiniški naudotojų kuriamo turinio kiekiai. Reddit, komentarų skiltys ir pakraštiniai tinklaraščiai dažnai iškelia ankstyvą, nepatikrintą informaciją. Kai grupės veikia koordinuotai, išdykaudamos arba turėdamos piktų ketinimų, jos gali pastūmėti modelius link melagingų teiginių, sukurdamos skaitmeninių užuominų grandinę, kuri automatinei šaltinių paieškai atrodo patikima.
Šios sistemos sukurtos tam, kad būtų naudingos ir atsakytų greitai. Greitis yra jų privalumas. Tačiau kartu tai ir silpnybė. Modeliai nepatiria skepticizmo. Jie netikrina, ar vietinis leidinys nebuvo suklastotas, ar agregatorius nepriskyrė antraštės netinkamam šaltiniui. Jie sintetina informaciją. Kartais ši sintezė virsta haliucinacija: įtikinamai skambančiu teiginiu be jokio faktinio pagrindo.
Šis atvejis pabrėžia paprastą tiesą: paieškos DI reikia šaltinių kilmės aiškumo, pasitikėjimo rodiklių ir žmogaus priežiūros, kol jo atsakymai pradedami laikyti faktais.
Skaitytojams saugikliai gerai žinomi, bet juos verta pakartoti. Ieškokite patvirtinimo patikimuose žiniasklaidos kanaluose. Sekite šaltinių nuorodas iki pirminio pranešimo. Atsargiai vertinkite sensacingus teiginius, pasirodančius mažose arba ką tik sukurtose svetainėse. O jei paieškos asistentas pateikia citatą, atidarykite ją, nemanykite, kad asistentas jau atliko patikrą už jus.
Platformų komandoms kelias į priekį yra ir techninis, ir organizacinis. Reikia tobulinti informacijos atrankos filtrus, kad žemos kokybės domenai būtų nustumiami žemiau. Reikia aiškiai rodyti šaltinių kilmę, kad naudotojai žinotų, kokiu šaltiniu rėmėsi DI. Būtina diegti automatines patikras, kurios pažymėtų mažai tikėtinus teiginius ir perduotų juos žmogaus peržiūrai. Galiausiai, verta investuoti į greito taisymo mechanizmus, kai akivaizdžiai melaginga informacija pradeda plisti.
DI ir toliau taps išmanesnis. Išmanesni taps ir tie, kurie bandys jį apgauti. Kas laimės, priklausys ne tiek nuo pačių modelių, kiek nuo sistemų ir praktikų, kurias sukursime aplink juos, taip pat nuo to, ar naudotojai nepamirš užduoti vieno svarbiausio klausimo: iš kur tai atsirado?
Šaltinis: smarti
Palikite komentarą