4 Minutės
Kai kurie žmonės ChatGPT naudoja kaip paieškos laukelį. Kiti su juo kalbasi taip, kaip antrą valandą nakties, kai nepavyksta užmigti, rašytų artimam draugui. Būtent šis antrasis naudojimo būdas pastūmėjo dirbtinį intelektą į gerokai sudėtingesnę sritį nei produktų demonstracijos ar pagalba programuojant, todėl OpenAI dabar pristato funkciją, skirtą akimirkoms, kai pokalbis ima atrodyti pavojingas.
Naujas įrankis, vadinamas „Patikimu kontaktu“, pradedamas diegti ChatGPT nustatymuose suaugusiems naudotojams. Jo paskirtis teoriškai paprasta: leisti naudotojui pasirinkti vieną žmogų, kuris galėtų būti informuotas, jei sistema aptiktų rimtą savęs žalojimo riziką. Praktikoje OpenAI bando sukurti saugumo tinklą nepaversdama privačių pokalbių automatiniais įspėjimais.
Nustatymas yra savanoriškas. Naudotojai gali paskirti vieną patikimą asmenį, tačiau jis turi atitikti amžiaus reikalavimą: daugumoje regionų būti bent 18 metų, o Pietų Korėjoje - 19 metų. Pasirinktas kontaktas gauna kvietimą, kuriame paaiškinamas jo vaidmuo, ir turi septynias dienas jį priimti. Jei jis atsisako, naudotojas gali pasirinkti kitą žmogų.
Tolesnis procesas parodo, kad OpenAI aiškiai stengiasi išvengti perteklinio kišimosi. Įspėjimai nėra siunčiami automatiškai tą akimirką, kai sistema aptinka nerimą keliančią kalbą. Pirmiausia ChatGPT praneša naudotojui, kad jo „Patikimas kontaktas“ gali būti informuotas. Taip pat skatina naudotoją susisiekti tiesiogiai ir net pasiūlo, kaip pradėti tokį pokalbį. Po to nedidelė specialiai apmokytų žmonių peržiūrėtojų grupė įvertina atvejį. Tik jei jie patvirtina, kad situacija rodo rimtą savižalos riziką, OpenAI išsiunčia pranešimą.
Toks pranešimas gali būti gautas el. paštu, SMS žinute arba per programėlę. Jame nepateikiami pokalbių įrašai, citatos ar pokalbio santrauka. Vietoje to patikimam asmeniui tiesiog pranešama, kad savęs žalojimas buvo paminėtas nerimą keliančiame kontekste, ir paprašoma susisiekti su naudotoju. OpenAI teigia siekianti žmogaus atliekamą peržiūrą užbaigti greičiau nei per valandą.
Kur ši funkcija telpa platesnėje OpenAI saugumo strategijoje
Ši funkcija neatsiranda atskirai. OpenAI jau yra įdiegusi saugumo priemones, susijusias su paauglių paskyromis, įskaitant įspėjimus tėvams, kai susietose paskyrose pastebimi emocinės krizės ženklai. „Patikimas kontaktas“ išplečia šią idėją suaugusiesiems, o tai daug pasako apie tai, kaip bendrovė dabar mato ChatGPT naudojimą. Pokalbių robotas nebėra vien produktyvumo asistentas. Daugeliui naudotojų jis tapo vieta itin asmeniškiems, emociškai sunkiems pokalbiams.
OpenAI teigimu, funkcija buvo kuriama pasitelkus gydytojų, tyrėjų ir psichikos sveikatos organizacijų, įskaitant Amerikos psichologų asociaciją, įžvalgas. Toks išorės ekspertų dalyvavimas svarbus. Bet kuris įrankis, susijęs su savęs žalojimo rizika, privatumu ir reagavimu į krizę, veikia jautrioje srityje, kur dizaino sprendimai gali turėti realių pasekmių.
Taip pat yra aiškių ribų. „Patikimas kontaktas“ nepakeičia krizių pagalbos linijos, skubiosios pagalbos tarnybų ar profesionalios psichikos sveikatos pagalbos. OpenAI teigia, kad ChatGPT ir toliau nukreips naudotojus į šiuos išteklius, kai to reikės. Naudotojai bet kada gali pašalinti arba pakeisti pasirinktą kontaktą, o kontaktas gali atsisakyti šio vaidmens kada panorėjęs.
Šiame diegime slypi ir tylesnė žinutė. OpenAI pripažįsta tai, apie ką technologijų industrija kurį laiką kalbėjo labai atsargiai: žmonės jau dabar patiki pažeidžiamiausias savo akimirkas dirbtinio intelekto pokalbių robotams. Ar bendrovės to siekė, ar ne, dabar jau beveik nebesvarbu. Toks elgesys egzistuoja. Tokios funkcijos kaip „Patikimas kontaktas“ yra bandymas į šią realybę reaguoti atsargiau, žmogiškiau ir pripažinti, kad net pažangiausias pokalbių robotas neturėtų būti vienintelis balsas kambaryje, kai situacija tampa tamsi.
Palikite komentarą