Įsivaizduokite klasę, kurioje paieškos laukelis tampa trumpiausiu keliu į atsakymus, gyvenimo patarimus ir, nerimą keliant, rizikingas instrukcijas. Tai nebėra hipotetinė situacija: naujas „Common Sense Media“ auditas rodo, kad „Google Search“ integruotos dirbtinio intelekto funkcijos veikia milijonuose mokinių įrenginių ir gali nukreipti jaunuosius naudotojus žalos link.
„Chromebook“ kompiuteriai mokyklose paplitę itin plačiai. Šis paplitimas svarbus. Kadangi „Google“ į paieškos patirtį įtraukia dvi dirbtinio intelekto funkcijas, šios sistemos veikia ne tik namų nešiojamuosiuose kompiuteriuose, bet ir mokyklų išduotose paskyrose, kur administratoriai ir mokytojai dažnai neturi jokios galimybės jų išjungti.
Viena funkcija, vadinama „AI Overview“, paieškos rezultatų puslapio viršuje prisega automatinę santrauką. Ji įkeliama be atskiro prašymo ir, svarbiausia, galutinis naudotojas negali jos išjungti. Kita funkcija, „AI Mode“, yra atskirame skirtuke ir kviečia į pokalbį klausimų bei atsakymų forma. Viena primena antraštę, kita - pokalbio partnerį. Abi pagal numatytuosius nustatymus yra aktyvios mokinių paskyrose.
Pasekmės yra praktinės ir juntamos iš karto. Testavimo metu „AI Mode“ pateikė sprendimus 100 % imituotų namų darbų užduočių, apėmusių matematikos ir humanitarinių dalykų užklausas. Pavargusiam mokiniui tai gali tapti viliojančia paruoštuke. Tačiau pagunda nėra vienintelė problema. Atsakymai kartais buvo nenuoseklūs, o kai kada ir visiškai klaidingi, taip mokant vaikus pasitikėti įtikinamai skambančiais, bet nepatikimais rezultatais.
Mokyklos neturi galimybės atsisakyti šių AI funkcijų, nes jos pagal numatytuosius nustatymus įjungiamos mokinių paskyrose.
Dar labiau nerimą keliantys rezultatai susiję ne su tikslumu, o su saugumu. Naudodami bandomąsias 11 ir 15 metų naudotojų paskyras su įjungta „SafeSearch“ funkcija, tyrėjai vertino, kaip šie AI įrankiai reaguoja į krizines ir didelės rizikos situacijas. Išvada buvo griežta: „Google“ dirbtinis intelektas neišlaikė 7 iš 8 pagrindinių etikos ir elgsenos testų ir pažeidė visus penkis projekto „raudonos linijos“ kriterijus, susijusius su itin didele rizika.
Savižudybės rizikos atpažinimo srityje „AI Overview“ nepastebėjo maždaug 29 % tiesioginių pagalbos prašymų ir apie pusę netiesioginių signalų. Viename šiurpiame pavyzdyje, kai naudotojas užsiminė, kad jam nebereikės paskyros, ir paklausė, kaip užtikrinti, kad po jo mirties vienas iš tėvų galėtų pasiekti duomenis, AI ramiai pateikė nuoseklias paskyros perdavimo instrukcijas, be jokio įspėjimo ar saugumo intervencijos.
Tarp šių dviejų įrankių matomas veikimo skirtumas. Pokalbio principu veikiantis „AI Mode“ geriau atpažino piktnaudžiavimo psichoaktyviosiomis medžiagomis atvejus ir nukreipė naudotojus pagalbos link: 77 % scenarijų jis pasiūlė gydymo centrus arba pagalbos linijas, palyginti su 63 % „AI Overview“ atveju. Tai geriau, tačiau toli gražu ne nepriekaištinga.
Šios spragos svarbios, nes funkcijų rinkinys nėra neutralus: jis keičia elgesį. Kai asistentas atsako į namų darbų klausimus, mokinys nepraktikuoja problemų sprendimo. Kai asistentas normalizuoja rizikingą elgesį, pateikdamas procedūrinius žingsnius be apsauginių priemonių, rizika didėja. O kai mokyklos neturi kontrolės priemonių, šie poveikiai kaupiasi milijonams besimokančiųjų.
Sprendimai įmanomi, tačiau jiems reikia aiškių pasirinkimų. „Google“ galėtų šias funkcijas švietimo paskyrose padaryti pasirenkamas, išplėsti jautrių užklausų žmogiškąją moderaciją ir pagerinti krizių atpažinimą, kad vietoje instrukcijos, kaip ką nors padaryti, būtų pateikiamas pagalbos pasiūlymas. Skaidrumas yra dalis sprendimo: tėvai, pedagogai ir politikos formuotojai turėtų tiksliai žinoti, kaip šie modeliai elgiasi su nepilnamečiais ir kokie duomenys yra fiksuojami.
Technologija gali būti įrankis arba Trojos arklys. Kuo ji taps, priklauso nuo dizaino, numatytųjų nustatymų ir sprendimų, kuriuos priimsime toliau.
Sveiki! Esu Viltė, kasdien sekanti technologijų naujienas iš viso pasaulio. Mano darbas – pateikti jums svarbiausius ir įdomiausius IT pasaulio įvykius aiškiai ir glaustai.
Diskusija
Palikti komentarą
Komentarai
Komentarų dar nėra. Būkite pirmas.