3 Minutės
Pranešama, kad „Apple“ buvo beveik nusprendusi pašalinti „Grok“ iš „App Store“, kai „xAI“ pokalbių robotas buvo susietas su nevalingų „deepfake“ pornografinių vaizdų banga, įskaitant vaizdus su nepilnamečiais. Kelias negražias sausio dienas pasekmės greitai plito per X, o tyla iš Kupertino buvo sunkiai ignoruojama.
Pagal CNBC pranešimą, kurį citavo 9to5Mac, „Apple“ įspėjo „xAI“, kad „Grok“ gali būti pašalintas, jei nebus suvaldytos programėlės „deepfake“ nuogumo generavimo problemos. Bendrovė jau buvo atmetusi bent vieną atnaujinimą, aiškiai parodydama, kad X išsprendė tik dalį platesnės moderavimo sumaišties, o pati „Grok“ programėlė vis dar neatitiko „App Store“ taisyklių.
Šią savaitę paviešintas „Apple“ laiškas beveik nepaliko erdvės interpretacijoms. Peržiūrėjusi naujus pateiktus variantus, bendrovė pareiškė, kad X „iš esmės išsprendė“ pažeidimus, tačiau „Grok“ vis dar neatitiko reikalavimų. Žinutė buvo tiesi: sutvarkykite problemą arba rizikuokite pašalinimu.
Šis įspėjimas buvo svarbus. X platformoje Elonas Muskas jau buvo pakoregavęs moderavimo politiką po to, kai platformą užplūdo neteisėtas dirbtinio intelekto sugeneruotas seksualinis turinys. Vis dėlto „Grok“ programėlė keitėsi lėčiau, o naudotojai greitai pastebėjo, kad dalis tokio piktnaudžiavimo vis dar praslysta pro spragas.
Kai blokavimas tampa iššūkiu
Paties Musko iššūkis nepadėjo. Po to, kai jis paragino žmones pabandyti su „Grok“ sukurti tikrų žmonių „deepfake“ nuogas nuotraukas, daugelis būtent tai ir padarė. Nuo tada saugumo filtrai buvo sustiprinti, bet ne tiek, kad piktnaudžiavimas visiškai išnyktų. Užklausas dabar galbūt sunkiau suformuluoti. Apeinamųjų būdų vis dar yra.
„Apple“ taisyklės naudotojų kuriamam turiniui ne visada yra aiškumo pavyzdys, tačiau moderavimas nėra pasirenkamas dalykas. „Grok“ atveju bendrovė, regis, nusprendė, kad tam tikras moderavimas yra geriau nei jokio, ir to galėjo pakakti, kad programėlė liktų pasiekiama.
Būtent čia ši istorija tampa nemaloni. „Apple“ jau seniai šalina programėles už kur kas mažiau nerimą keliančius politikos pažeidimus nei šis. „Deepfake“ pornografijos programėlės iš parduotuvės anksčiau tyliai buvo šalinamos, įskaitant mažiausiai 28 programėles, pašalintas po atskiro pranešimo, kuris atskleidė šią problemą. Tačiau kai kalbama apie programėlę, priklausančią Elonui Muskui, procesas, panašu, tampa gerokai sudėtingesnis.
Pinigai. Politika. Įtaka. Biurokratinės kliūtys. Rinkitės bet kurį. Su Musku visi jie yra tame pačiame kambaryje.
Taip pat gyvuoja nuolatinis mitas, kad X veikia kaip kažkokia neliečiama žodžio laisvės tvirtovė. Taip nėra. Ir „Apple“ žino skirtumą. Vis dėlto šį kartą bendrovė, panašu, pasirinko švelnesnį kelią, leisdama „Grok“ likti prieinamam po, jos teigimu, gerokai patobulinto atnaujinimo.
Kas tiksliai pasikeitė, nėra aišku. „Apple“ to neįvardijo, o „xAI“ taip pat nepateikė daug detalių. Tačiau rezultatas kalba pats už save: programėlė išliko, net ir būdama susieta su vienu nemaloniausių metų DI saugumo nesėkmių.
Tokie atvejai yra priežastis, kodėl viso pasaulio reguliavimo institucijos vis sugrįžta prie „Apple“ „App Store“ politikos. Kai kurios vyriausybės jau siekia modelio, kuriame „App Review“ būtų laikoma labiau išorine priežiūros institucija, o ne vartais, atsakingais tik „Apple“. Po „Grok“ istorijos ši idėja kritikams, manantiems, kad dabartinė sistema per lengvai palinksta, kai statymai tampa dideli, atrodys dar patrauklesnė.
Palikite komentarą