Kaip ChatGPT gali nuvesti į netikras e. parduotuves

Kažkas spustelėjo nuorodą, kuri atrodė oficiali. Kaina buvo pernelyg gera, kad būtų tiesa. Siunta taip ir neatkeliavo. Banko sąskaita buvo ištuštinta. Tai ne technologinis trileris. Tai modelis, kurį saugumo tyrėjai vis dažniau pastebi ten, kur pokalbių DI susitinka su internetiniu sukčiavimu.

Naujausi sukčiavimo tikrinimo paslaugos Ask Silver tyrimai parodė, kad ChatGPT gali pateikti įtikinamai atrodančias, bet netikras internetines parduotuves, kai vartotojai klausia apie gerai žinomų britų prekių ženklų, tokių kaip Russell & Bromley ar Dunelm, produktus. Patrauklios nuolaidos. Įtikimos parduotuvių vitrinos. Nuorodos, nukreipiančios pirkėjus į klonuotas svetaines, sukurtas pinigams ir mokėjimo duomenims pavogti.

Kai mokymo duomenys tampa silpnąja grandimi

Užpuolikai internete paskleidžia kenkėjiškus puslapius. Tie puslapiai yra nuskaityti, indeksuojami ir, tinkamu metu, patenka į šaltinius, kuriais maitinami didieji kalbos modeliai. Rezultatas yra tai, ką ekspertai vadina „duomenų užnuodijimu“: modelis mokosi iš apgaulingų puslapių, o tada tą pačią klaidingą informaciją pakartoja kasdieniams vartotojams.

Anna Jones iš Ask Silver teigia, kad nusikaltėliai kartais išnaudoja neįprastus prekių ženklo gyvavimo ciklo momentus, pavyzdžiui, savininko pasikeitimą arba laikinai neveikiančią oficialią svetainę, kad pateiktų DI melagingas nuorodas ir priverstų savo svetaines atrodyti teisėtas. Triukas paprastas. Sukuriamas įtikinamas puslapis. Jis padaromas panašus į tikrą parduotuvę. Tada laukiama, kol modelis jį aptiks ir rekomenduos.

Lewis Baxter, vadovaujantis sukčiavimo komandai Jungtinės Karalystės National Trading Standards institucijoje, įspėja, kad vien tai, jog svetainė pasirodo DI atsakyme, nėra autentiškumo patvirtinimas. Žmonės kreipiasi į pokalbių robotus, norėdami greito patarimo dėl apsipirkimo internetu. Sukčiai prisitaikė taip pat greitai. Įtikinama nuoroda pokalbių roboto atsakyme gali nuraminti pirkėją ir priversti praleisti pagrindinius patikrinimus.

Ataskaitose aprašytos netikros internetinės parduotuvės dažnai atrodo neraminamai profesionaliai. Jos naudoja domenų vardus, labai panašius į tikrus prekių ženklus, prie pažįstamo pavadinimo pridėdamos tokius žodžius kaip onlineuk arba oficiali, ir reklamuoja dideles nuolaidas, kartais siekiančias iki 80 procentų, kad paskatintų pirkėjus veikti nepagalvojus. Daugelis šių svetainių priima tik bankinius pavedimus, o tai yra dar vienas rimtas įspėjamasis ženklas.

Visada patikrinkite pardavėją tiesiogiai: ieškokite parduotuvės pagal pavadinimą, patikrinkite oficialią svetainę ir niekada nemokėkite bankiniu pavedimu, nebent esate tikri, kad pardavėjas yra teisėtas.

Ką vartotojai gali padaryti jau dabar? Neskubėti. Atidžiai perskaityti URL adresą. Atkreipti dėmesį į papildomus žodžius, keistas galūnes ir rašybos klaidas. Rinktis korteles arba mokėjimo būdus, suteikiančius pirkėjo apsaugą. Jei svetainė reikalauja bankinio pavedimo, laikykite tai stipriu signalu pasitraukti. Kai įmanoma, įveskite mažmenininko pavadinimą į paieškos sistemą arba eikite į svetainę per patikimą žymę, užuot spustelėję pokalbių roboto pasiūlytą nuorodą.

• Atidžiai patikrinkite domeną, ar jame nėra papildomų žodžių arba neįprastų galūnių.
• Ieškokite kontaktinių duomenų ir patikrinamų socialinio patikimumo įrodymų.
• Venkite mokėjimo galimybių, kai leidžiamas tik bankinis pavedimas.
• Naudokite kredito korteles arba mokėjimo paslaugas su pirkėjo apsauga.

OpenAI teigia pašalinusi nustatytas apgaulingas svetaines iš modelio paieškos rezultatų ir suteikianti vartotojams galimybę pranešti apie problemines nuorodas. Tai naudinga. Tai būtina. Tačiau tai nėra visapusiškas sprendimas. Modeliai mokosi iš didžiulių interneto duomenų masyvų, o užpuolikams pakanka sukurti kelis įtikinamus puslapius, kad būtų padaryta žala.

Galiausiai atsakomybė yra bendra. Technologijų komandos turi sustiprinti modelių duomenų apdorojimo grandines ir aptikti užnuodijimą. Platformos turi gerinti nuorodų patikrą. O pirkėjai DI pasiūlymus turėtų vertinti kaip pradinį tašką, o ne kaip patvirtinimą. Išlaikykite smalsumą. Atsargumą laikykite dar arčiau.