Tėvų el. pašto dėžutėse tyliai atsirado naujo tipo pranešimas: kai paauglio ChatGPT paskyra sustabdoma dėl grasinimų ar smurtinio elgesio, apie tai dabar gali būti informuotas jo tėvas, motina arba globėjas. Tai pokytis, kuris dirbtinio intelekto saugumą vertina ne vien kaip produkto nustatymą, o kaip visuomenės saugumo signalą.

Šis sprendimas priimtas po griežtos kritikos, kilusios po 2025 m. masinių šaudynių Tumbler Ridge, Kanadoje, kai tyrėjai nustatė, kad kaltinamasis prieš išpuolį naudojosi ChatGPT. Kanados pareigūnai klausė, kodėl OpenAI nieko neinformavo, kai paskyra buvo išjungta. OpenAI vadovas Samas Altmanas atsiprašė dėl šios spragos, o bendrovė ėmė iš naujo vertinti, kaip ji žymi didelės rizikos elgesį.

OpenAI pranešimų sistemą sukūrė bendradarbiaudama su Moonshot, organizacija, kuri daugiausia dėmesio skiria žalai internete ir ankstyvai intervencijai. Moonshot įkūrėja Vidya Ramalingam šią funkciją apibūdina kaip praktišką pirmą žingsnį: greitai pranešti šeimoms, kai atsiranda rimtas susirūpinimas, ir nukreipti jas į pagalbos išteklius bei tolesnius veiksmus. Jos teigimu, ankstyvas įspėjimas sudaro sąlygas ankstyvai pagalbai.

Kaip tai veikia? Tėvai, susieti su paauglio paskyra, gauna pranešimą pavadinimu „Svarbūs jūsų vaiko paskyros pakeitimai“. Spustelėjus „Sužinoti daugiau“, paaiškinama, kad paskyra buvo išaktyvinta už politikos, susijusios su grasinimais ar smurtiniais veiksmais, pažeidimą. Įspėjimas sąmoningai suformuluotas tiesiai ir aiškiai, kad neliktų dviprasmybių ir šeima galėtų greičiau sureaguoti.

Šis atnaujinimas papildo kitas tėvų kontrolės priemones, kurias OpenAI jau įdiegė: naudojimo laiko ribojimą, mažesnį jautraus turinio matomumą ir edukacinius režimus, kurie mokinius veda per nuoseklų problemos sprendimą prieš parodydami galutinį atsakymą. ChatGPT taip pat primena jaunesniems naudotojams reguliariai daryti pertraukas, taip švelniai skatindamas sveikesnius naudojimosi ekranais įpročius.

Vis dėlto yra ir kompromisų. Vieni teigs, kad tai priartėja prie tėvų vykdomos priežiūros. Kiti sakys, kad tai atsakingas kontrolės sluoksnis, galintis užkirsti kelią situacijos eskalacijai. Tikrasis išbandymas bus tai, kaip šie įspėjimai bus naudojami: ar jie paskatins palaikančią intervenciją, ar baudžiamą ir pernelyg griežtą reakciją.

Galiausiai OpenAI tikisi, kad skaidrūs signalai, siunčiami šeimoms ir paremti pagalbos ištekliais, padės pavojingą elgesį pastebėti anksčiau, o ne tik po tragedijos.

Ar toks požiūris sumažins žalą realiame pasaulyje, priklausys nuo platformų, šeimų ir vietos institucijų koordinavimo. Vienas paspaudimas gali pradėti pokalbį. Ar tai bus tinkamas pokalbis?