Anthropic perspėja apie didesnes atvirojo kodo DI rizikas

„Anthropic“ tarptautinių reikalų vadovas teigė, kad atvirojo kodo dirbtinio intelekto modeliai dėl savo prigimties kelia didesnę riziką nei bendrovės nuosavos sistemos. Šias pastabas jis išsakė ES prižiūrimame susitikime Dubline.

Guillaume Perrencin įspėjimas ir „Anthropic“ pozicija

Guillaume Perrencin šias pastabas išsakė vyriausybės surengtame dirbtinio intelekto susitikime Dubline. Jis teigė, kad atvirojo kodo modeliai, kurių kodas, architektūra ir svorių failai viešinami, kad bet kuris naudotojas galėtų juos atsisiųsti, paleisti ar keisti, dėl savo prigimties kelia gerokai didesnę riziką. Perrencin šią poziciją palygino su ankstesniais „Anthropic“ generalinio direktoriaus Dario Amodei komentarais. Jis yra sakęs, kad atvirų svorių modeliai, neturintys pavojingų gebėjimų, turėtų būti laikomi viešąja gėrybe.

Naujausi atvirojo kodo modeliai ir saugumo testai

Komentarai nuskambėjo stiprėjant konkurencijai ir vykstant naujausiems saugumo vertinimams. Europos bendrovė „Mistral“ praėjusią savaitę pristatė „Large 4“ modelį, pramintą „Le Chonk“. Bendrovės teigimu, jis turi vieną trilijoną parametrų, buvo apmokytas Europoje ir skirtas duomenų suverenitetui užtikrinti. „Mistral“ dar nepaskelbė modelio svorių failų. Šiuo metu prieiga prie jo suteikiama tik per „Mistral“ API, o svorius bendrovė planuoja paskelbti spalio 27 dieną.

Susitikime aptarti nepriklausomų organizacijų ir institucijų vertinimai atskleidė nevienodą atvirojo kodo modelių saugumo elgseną. Organizacijos „SaferAI“ vertinimas parodė, kad Kinijos modelis GLM-5.2 neatsisakė nė vienos užduoties, susijusios su kenkėjiškomis kibernetinėmis atakomis ar dvejopos paskirties biologiniais prašymais. Tuo metu „Anthropic“ modelis „Claude“, kaip pranešama, dėl saugumo priežasčių atmetė tiek daug prašymų, kad lyginamojo testo nepavyko užbaigti. „Anthropic“ tyrimas, atliktas kartu su „Frontier Red Team“, taip pat parodė, kad mažesnius modelius galima atkurti naudojant nebrangius „Android TV“ priedėlius. Visi šiame teste naudoti modeliai, įskaitant „Gemma4“ ir GLM-5.2, buvo atvirojo kodo.

Kainų pokyčiai ir regioniniai interesai Dubline

Perrencin taip pat paskelbė apie „Claude“ kainodaros pakeitimus: įprasta „Claude Opus 5.5“ kaina, palyginti su ankstesne versija, sumažėjo 40 procentų. Jis teigė, kad šį pokytį lėmė oficialus 20 procentų kainos sumažinimas ir mažesnis žetonų suvartojimas naujojoje versijoje.

Perrencin pastabos nuskambėjo Dubline, Airijoje. Kelios publikacijos ir pilietinės visuomenės grupės Dubliną įvardijo kaip kontroversišką renginio vietą, nes maži Airijos pelno mokesčio tarifai ilgą laiką traukė didžiąsias technologijų bendroves ir valstybei generavo reikšmingas pajamas. Šios grupės teigia, kad finansinė nauda gali apsunkinti Airijos neutralumą reguliuojant dirbtinį intelektą. „Anthropic“ turi reikšmingų komercinių interesų Europoje: bendrovė Europą vadina sparčiausiai augančia savo rinka, Dubline atidarė pirmąjį biurą Europoje ir, kaip pranešama, rengiasi pirminiam viešam akcijų siūlymui, kurio deklaruojamas vertinimas siekia 965 mlrd. JAV dolerių.