Signal vadovė įspėja nepatikėti AI pokalbių robotais

Nelaikykite pokalbių roboto patikėtiniu. Trumpas sakinys. Griežta tikrovė.

Meredith Whittaker, vadovaujanti saugaus susirašinėjimo programėlei Signal, Bloomberg aiškiai pasakė, kad tokie įrankiai kaip ChatGPT ir Claude nėra sąmoningi pašnekovai. Jie imituoja pokalbį. Jie nejaučia. Jie nesupranta jūsų taip, kaip suprastų kitas žmogus. Šis skirtumas tampa svarbesnis nei bet kada, kai riba tarp naudingo asistento ir įkyraus buvimo kas mėnesį vis labiau plonėja.

Whittaker pripažįsta, kad kartais naudoja dirbtinį intelektą paprastoms užduotims, pavyzdžiui, sutvarkyti dokumento struktūrą, tačiau neperžengia ribos ir neužduoda jam klausimų, kurie formuotų jos mąstymą. Ji saugo kūrybinį ir intelektinį darbą, gimstantį žmogaus prote. Kodėl sistemai, kuri apibendrina ir vidurkina tai, kas jau egzistuoja, reikėtų suteikti galią nukreipti tai, kaip mąstome ar rašome?

Perspėjimas tapo dar aštresnis, kai ji sureagavo į naujausią Microsoft dirbtinio intelekto vadovo Mustafos Suleymano prognozę, kad tokie asistentai kaip Copilot jau šiemet galėtų už vartotojus pasirūpinti kalėdiniais pirkiniais. Skamba patogiai. Tačiau tam padaryti asistentui reikėtų itin intymaus vaizdo apie jūsų gyvenimą: šeimos grupinių pokalbių, naršymo istorijos, mokėjimo kortelių, adresų, kalendorių ir galimybės jūsų vardu rašyti artimiesiems. Ar patikėtumėte visa tai vienai paslaugai?

Whittaker tokį pasiekiamumo lygį vadina tuo, kas jis iš tiesų yra: užpakalinėmis durimis į asmeninį privatumą. Saugaus susirašinėjimo programėlės kontekste tokia visa apimanti prieiga sugriautų pačias garantijas, kurių vartotojai ieško. Signal nesuteiks AI sistemoms plačių, invazinių leidimų savo programėlės viduje.

Ši diskusija nebėra teorinė. Dirbtinio intelekto funkcijoms vis labiau skverbiantis į įvairias platformas, kiekvienas naujas patogumas atneša kompromisą: greitis mainais į kontrolę, efektyvumas mainais į intymumą. Riba, kurią nusibrėšite, nulems ne tik jūsų gautuosius, bet ir tai, kas galės formuoti jūsų dėmesį bei pasirinkimus.