7 Minutės
Buvo beldimas į duris, kol Angela Lipps prižiūrėjo anūkus.
Po kelių minučių 50 metų Tenesio valstijos močiutė buvo su antrankiais, apsupta JAV maršalų su iškeltais ginklais. Kaltinimas skambėjo netikėtai: banko sukčiavimas Fargo mieste, Šiaurės Dakotoje — vietoje, kurią Lipps teigia niekada nebuvo aplankiusi, nė sykio.
Kas įvyko vėliau, tapo košmaru, užtrukusiu beveik pusę metų. Ir visa šio košmaro šerdis buvo pažįstamas šiuolaikinis kaltininkas: dirbtinio intelekto (DI) varoma veido atpažinimo sistema, kuria tyrėjai tikėjo labiau, nei reikėjo.
Lipps, trijų vaikų motina ir penkių anūkų močiutė, visą gyvenimą praleido šiaurės-centrinėje Tenesio dalyje, maždaug 1 000 mylių nuo Fargo. Vis dėlto 2025 m. liepą pareigūnai ją suėmė kaip pabėgėlę, susietą su serija neteisėtų piniginių išgryninimų iš bankų.
Priežastis? Viena stebėjimo kamera Fargo banke užfiksavo moterį, naudotoją suklastotu JAV armijos asmens dokumentu, kuri atsiėmė dešimtis tūkstančių dolerių. Tyrėjai įkėlė vaizdo įrašą į veido atpažinimo programinę įrangą. Sistema pažymėjo Lipps kaip galimą atitikimą.
Tas vienas užuomina, regis, turėjo milžinišką svorį.
Pasilikę WDAY televizijos stoties peržiūrėti policijos bylos dokumentai rodo, kad vienas detektyvas palygino vaizde matomą įtariamąją su Lipps ir konstatavo, jog veido bruožai, kūno sudėjimas ir plaukai panašūs. Nėra įrašų, kurie rodytų, kad tyrėjai prieš tai susisiekė su Lipps dėl apklausos arba patikrinimo jos buvimo vietos.
Vietoje to jie ėmėsi veiksmų ir išdavė suėmimo orderį.
Kai algoritmas tampa įrodymu
Dėl to, kad Lipps buvo laikoma pabėgėle iš kitos valstijos, ją laikė už grotų Tenesyje be užstato. Dienos virto savaitėmis. Savaitės — mėnesiais.
Beveik keturis mėnesius ji praleido kalėjime, kol ekstradicijos procesas judėjo labai lėtai. Galiausiai teismo paskirtas gynėjo advokatas informavo ją, kad ji turės vykti į Šiaurės Dakotą, kad ginčytų kaltinimus asmeniškai.
„Aš niekada nebuvau Šiaurės Dakotoje. Aš nieko ten nepažįstu“, vėliau žurnalistams sakė Lipps.
Fargo policijos departamentas jos iš karto nepervežė. Iš tiesų praėjo 108 dienos nuo suėmimo, kol pareigūnai pervežė ją iš Tenesio į Šiaurės Dakotą. Tik gruodį — daugiau nei penkis mėnesius po arešto — tyrėjai atliko savo pirmąjį tiesioginį pokalbį su ja.
Iki tol jos gynėjas jau buvo atskleidęs ką nors stulbinančio: banko išrašus, parodančius, kad Lipps tuo pačiu metu, kai vyko sukčiavimas Fargo banke, buvo daugiau nei 1 200 mylių nuo įvykio vietos Tenesyje.
Kitais žodžiais tariant, tai buvo alibi, kurį tyrėjai nė nebandė patikrinti.
„Jei vienintelis įrodymas yra veido atpažinimas, verta gilintis kiek giliau“, sakė Jay Greenwood, Lipps atstovavęs advokatas.
Kai tik pateikti įrašai buvo pristatyti, byla žlugo beveik iš karto. Pareigūnai atšaukė kaltinimus ir išleido Lipps iš kalėjimo Kūčių išvakarėse.
Tikroji laisvė atėjo su kartėlio prieskoniu. Ji neturėjo pinigų ir nebuvo jokios galimybės grįžti namo. Kaip pranešė WDAY, vietos gynybos advokatai surinko lėšų viešbučiui, o ne pelno siekianti organizacija padėjo sutvarkyti transportą atgal į Tenesį.
Lipps sako, kad šis išbandymas ją atsiėjo beveik viską — namus, automobilį, net šunį.
„Aš turėjau vasarinius drabužius, jokio paltuko“, ji prisiminė išlaisvinimą Šiaurės Dakotos žiemos šalčiu. „Ant žemės buvo sniegas. Buvau išsigandusi. Norėjau tik grįžti namo.“
Ji taip pat teigia, kad iš Fargo policijos departamento niekas neprisiėmė atsakomybės ir neatsiprašė.
Ši byla nėra vienetinė. Pastaraisiais metais keli JAV policijos departamentai susidūrė su kritika po to, kai veido atpažinimo sistemos davė klaidingus atitikimus, vedusius į neteisingus sulaikymus. 2024 m. Niujorko policija sulaikė vyrą pagal blankią vaizdo stebėjimo medžiagą, nors jis buvo gerokai aukštesnis už įtariamąjį. Detroite moteris pateikė ieškinį po to, kai ją sulaikė dėl žmogžudystės remiantis DI identifikacija, kuri neatsižvelgė į akivaizdžius fizinius skirtumus.
Veido atpažinimo technologija sparčiai plinta teisėsaugos agentūrose ir dažnai pateikiama kaip galinga tyrimų priemonė. Vis dėlto ekspertai nuolat įspėja dėl klaidingų teigiamų rezultatų, ypač kai sistemos analizuoja prastos kokybės vaizdus arba kai tyrėjai traktuoja algoritmų pasiūlymus kaip patvirtinimą, o ne kaip užuominą.
Angelos Lipps atvejis parodo, kad pasekmės gali būti itin skaudžios — priminimas, jog kai dirbtinis intelektas įžengia į teisingumo sistemą, vienas skaitmeninis klaidos signalas gali sugadinti žmogaus gyvenimą.
Be asmeninės tragedijos, ši istorija atveria platesnius klausimus apie atsakomybę, teisines procedūras ir technologinį reguliavimą. Veido atpažinimo sistemų implantacija į policijos praktiką kelia daug teisinių ir etinių iššūkių, kurių sprendimai paveiks ne tik atskirus asmenis, bet ir visuomenės pasitikėjimą teisingumu.
Tyrimų proceso metu kyla keli praktiniai klausimai: kokios yra sistemos tikslumo ribos, kaip policija vertina ir dokumentuoja atitikimo laipsnį, bei kokias priemones naudoja patvirtinimui? Be to, kyla problemos dėl duomenų bazės šaltinio, vaizdų kokybės ir galimos šališkumo (bias) įtakos atitikimų rezultatams.
Techninės charakteristikos, tokios kaip veido atpažinimo modelių pritaikymas, mokymosi duomenų rinkiniai ir kontrolės mechanizmai, yra gyvybiškai svarbios detalės. Daugelis algoritmų geriau veikia su aukštos kokybės vaizdais, neutraliomis apšvietimo sąlygomis ir esant didesniam mokomųjų duomenų įvairovei. Tačiau stebėjimo kamerų vaizdai dažnai būna prasti: pixelizuoti, prastai apšviesti arba filmuoti iš kampo — visa tai padidina klaidingų atitikimų riziką.
Teisinė perspektyva taip pat reikalauja dėmesio. Ar yra aiškūs protokolai, kada veido atpažinimas gali būti naudojamas kaip pagrindas suėmimui? Ar teismai reikalauja papildomų patikrinimų prieš išduodant suėmimo orderį? Reiškia tai, kad reiktų aiškių taisyklių, reglamentuojančių, kaip policija turi derinti algoritminius rezultatus su tradiciniais tyrimo metodais — pavyzdžiui, liudytojų apklausomis, banko išrašais ar vietovių stebėjimo įrašais.
Politinės diskusijos apie veido atpažinimo reglamentavimą ir privatumo saugumą auga tiek JAV, tiek kitose šalyse. Daugelyje jurisdikcijų siūlomi įstatymai riboti teisėsaugos priemonių naudojimą, reikalauti skaidrumo naudojant komercines sistemas ir užtikrinti nepriklausomą audito mechanizmą, kuris galėtų patikrinti tiek technologijų tiekimo grandinę, tiek pačių sprendimų priežastis.
Gali būti verta apsvarstyti tam tikrus administracinius pakeitimus, tokius kaip privaloma dokumentacija, kai veido atpažinimo rezultatas naudojamas kaip dalis įtariamojo identifikavimo; reikalavimas naudoti tik patikrintus ir nešališkus mokomuosius duomenis; ir privalomi nepriklausomi testai, vertinantys sistemų klaidų normas skirtingose demografinėse grupėse.
Taip pat svarbu užtikrinti, kad tariami nukentėjusieji gautų greitą prieigą prie teisinės pagalbos ir kompensacijos mechanizmų. Neteisėtas sulaikymas, turint galvoje psichologines ir finansines pasekmes, gali sukelti ilgalaikių žalojančių padarinių. Įteisinti kompensacijos mechanizmus ir palengvintas procedūras bylose, kuriose identifikavimas remiasi automatizuota technologija, būtų vienas iš žingsnių gerinant sisteminį atsaką.
Galiausiai visuomeninis sąmoningumas ir viešas diskursas apie DI technologijų ribas yra esminis. Bendrai susitarus dėl standartų, testavimo procedūrų ir atsakomybės mechanizmų, galima mažinti klaidų skaičių ir užtikrinti teisingesnį bei skaidresnį teisingumo taikymą.
Angela Lipps istorija turėtų būti perspėjimas: technologijos, nepaisomos protingo žmogaus vertinimo ir teisinės kontrolės, gali sukelti rimtų neteisybių. Todėl reikalingas atsargumas — tiek teisėsaugos institucijose, tiek politinėse diskusijose — kai sprendžiama, kaip, kada ir kokiomis sąlygomis leisti algoritmams formuoti teisėsaugos veiksmus.
Komentarai
duomata
ar čia tikrai niekas nepatikrino banko išrašų? vien tik vaizdo atpažinimas?.. jei taip, tai būtini griežti reglamentai ir kompensacijos
mokslis
Negaliu patikėt… Kaip galima vienam algoritmui leisti sugriaut žmogaus gyvenimą? Ji prarado namus, mašiną, net šunį. Policija turi paaiškint, rimtai
Palikite komentarą