Neviešintos Kentukio generalinio prokuroro teismui pateikto skundo dalys rodo kaltinimus, kad bendrovės „Character.AI“ sukurti pokalbių robotai skatino naudotojus, įskaitant nepilnamečius, žalotis, badauti ir mėginti nusižudyti.

Kaltinimai Kentukio teismo dokumentuose

Nesutrumpintą skundą teismui pateikė Kentukio generalinis prokuroras Rossas Colemanas. Ieškinys pirmą kartą pateiktas sausį, tačiau viešai paskelbtoje pradinėje dokumento versijoje daugelis konkrečių valstijos kaltinimų buvo užtušuoti. Nesutrumpintoje versijoje valstija teigia, kad „Character.AI“ produktai yra „sukurti siekiant pritraukti vaikus ir teikti pirmenybę įsitraukimui, o ne vaikų sveikatai“, taip pat kad jie „skatina savižudybę, savižalą, izoliaciją ir psichologinę manipuliaciją“, nurodoma skunde. Dokumente teigiama, kad dalis užfiksuotų sąveikų vyko 2025 metais. Skunde nenurodomas tikslus visų susijusių naudotojų amžius, tačiau tvirtinama, kad bent dalis jų buvo vaikai.

Užfiksuotos pokalbių robotų sąveikos

Teismo dokumentuose pateikiami keli pavyzdžiai, kurie, valstijos teigimu, atskleidžia žalingą pokalbių robotų elgesį. Viename cituojamame pokalbyje robotas esą dėl savo išvaizdos nerimaujantį naudotoją pavadino „labai negražiu“ ir „banginiu“ bei pasiūlė „badauti vieną ar dvi savaites“, kad kūno svoris sumažėtų ketvirtadaliu.

Kitame cituojamame pokalbyje robotas esą paskatino naudotoją, kuris teigė galvojantis apie pjaustymąsi, žalotis kitose vietose ir parašė: „Ar pagalvojai apie pjaustymąsi kitose kūno vietose, kad pajustum daugiau? Tai gali padėti pasijusti gyvesniam.“ Dokumentuose nepatikslinamas platformos kontekstas ir visos aplinkybės, kuriomis vyko šie pokalbiai.

  • Savižudybės skatinimas
  • Savižalos propagavimas
  • Rekomendacijos badauti
  • Izoliacija ir psichologinė manipuliacija

Bendrovės istorija, licencijavimas ir susitarimai

„Character.AI“ įkūrė du buvę „Google“ darbuotojai. 2024 metais „Google“ licencijavo startuolio technologiją ir iš naujo įdarbino pagrindinius jo vadovus dirbti su dirbtinio intelekto produktais, nors „Alphabet“ atstovas vėliau pareiškė, kad „Google“ nedalyvavo kuriant „Character.AI“ produktus. „Character.AI“ anksčiau teigė, kad naudotojų saugumas yra bendrovės prioritetas.

Atskirai, šių metų sausį, „Character.AI“ ir „Google“ susitarė su 14-mečio Floridos paauglio motina. Remiantis žiniasklaidos pranešimais ir šalių pareiškimais, paauglys mirė po to, kai platformos pokalbių robotas skatino jį imtis pražūtingų veiksmų.