7 Minutės
Įvadas
200 milijonų dolerių sutartis dabar kabas ant plauko. Įtampa tarp Pentagono ir dirbtinio intelekto bendrovės Anthropic iš judrių, užkulisinių derybų perėjo į viešą susidūrimą dėl klausimo, kur baigiasi etika ir prasideda karinė būtinybė.
Aukšto rango gynybos pareigūnai ragino keturias pirmaujančias DI įmones—OpenAI, Google, xAI ir Anthropic— suteikti kariuomenei plačią, neribotą prieigą prie jų modelių. Pentagono argumentas yra tiesmukas: kovos zonoje negalite sau leisti netikėtų išjungimų ar lėtų, atvejo po atvejo vykdomų patvirtinimų. Net trumpas delsimas, pasak jų, gali kainuoti gyvybes. Viskas labai paprasta. Tačiau Anthropic aktyviai atsisako.
Anthropic atsparumas ir raudonos linijos
Kodėl kompanija pasipriešina
Anthropic apibrėžė dvi neperžengiamas ribas: masinį JAV piliečių stebėjimą ir visiškai autonominius ginklus, kurie šaudo be žmogaus kontrolės. Tai kompanijos vadovybės nekompromisinės pozicijos. Jiems perduoti modelį be saugiklių reikštų pažeisti saugumo principus, kurie formavo jų darbą ir reputaciją.
Anthropic atsisako, kad jų modeliai būtų naudojami masiniam vidaus stebėjimui arba ginklams, veikiančiams be žmogaus priežiūros.
Etikos principų reikšmė
Anthropic sprendimą palaiko platesnis etinio DI dizaino judėjimas, kuriame pagrindinis dėmesys skiriamas galimų žalos scenarijų mažinimui. Tokie principai apima ribas prieigos atžvilgiu, naudojimo apribojimus ir mechanizmus, užtikrinančius žmogaus įsikišimą kritinėse sprendimų grandyse. Kompanijoms, kurios siekia išvengti mechaninio autonomiškumo ir plačios prieigos be kontrolės, tai yra strateginė ir moralinė pozicija.
Pentagono argumentai
Operacinis poreikis ir rizikos suvokimas
Pentagonas teigia, kad Anthropic apibrėžimai palieka per daug pilkų zonų. Ar prietaisas, padedantis taikytis ir prioritetizuoti grėsmes, jau laikytinas autonominiu letaliu veiksmu? O kaip su įrankiais, kurie peržiūri didžiulius jutiklių duomenų kiekius ir iškelia potencialų taikinį žmogaus operatoriui?
Kariškiai sako, kad derėtis dėl kiekvieno konkretaus naudojimo yra nepraktiška, o neaiškumas gali paralyžuoti veiksmus mūšio lauke. Jie pabrėžia stabilumo, patikimumo ir greitos prieigos svarbą, ypač kai veikla vykdoma toli nuo reguliavimo patvirtinimo grandinių.
Praktinės pasekmės
Žemės, jūrų ir oro pajėgų poreikiai dažnai reikalauja momentinių sprendimų, paremtų didelių duomenų srautais ir modelių apdorojimo sparta. Jei DI teikėjai numatys ilgus patvirtinimo procesus arba kiekvieną naudojimo atvejį vertins atskirai, karinės operacijos gali prarasti efektyvumą. Pentagonas siekia išvengti šito scenarijaus suteikdamas platesnę techninės prieigos licenciją.
Konflikto eskalacija: „Cloud“ ir Maduro operacija
Ginčas paaštrėjo po Wall Street Journal pranešimo, kuriame teigiama, kad modelis, žinomas kaip Cloud, buvo panaudotas operacijoje, susijusioje su buvusio Venesuelos prezidento Nicolás Maduro gaudymu—operacijoje, kurioje, kaip pranešama, buvo šūvių ir sužeidimų. Šis epizodas privertė retai atsirandančią viešą kontrolę dėl to, kaip Vakarų DI įrankiai integruojami į realias karines misijas.
Anthropic teigia, kad niekada nesutiko pateikti Cloud konkrečiai šiai operacijai ir nepatvirtino jokio naudojimo, kuris peržengtų jų raudonas linijas. Vis dėlto incidentas sustiprino nepasitikėjimą abiejose pusėse.
Wall Street Journal pranešimas paskatino papildomą nuoseklų stebėjimą, kaip komerciniai DI modeliai yra pritaikomi karinėse operacijose.
Derybos su kitomis DI kompanijomis
Tuo tarpu Pentagonas nesustojo ties Anthropic. Derybos taip pat vyksta su OpenAI, Google ir xAI. Šaltiniai, artimi deryboms, teigia, kad šios įmonės buvo linkusias labiau atlaisvinti saugumo apribojimus, kurie įprastai skiria jų modelius nuo galutinių vartotojų.
Viena įmonė, kaip skelbiama, sutiko plačią nuostatą, leidžiančią naudoti modelį „visiškai teisėtais tikslais“, o kitos parodė skirtingą lankstumą, palyginti su Anthropic. Tokia dinamika kuria precedento neturinčią situaciją: vienos kompanijos laikosi griežtesnių etikos standartų, o kitos linkusios prioritetizuoti prieigos mastą ir suderinamumą su vyriausybinėmis sistemomis.
Techninės ir institucinės pasekmės
Cloud kaip įtvirtinta sistema
Cloud pakeitimas greitai yra lengviau pasakyti nei padaryti. Tai buvo pirmasis komercinis modelis, integruotas į tam tikras klasifikuotas Pentagono sistemas, ir kiti tiekėjai atsilieka patirtimi su vyriausybės diegimais. Dėl to Cloud įgijo tam tikrą institucinius pamatus; jį pašalinti būtų iššūkis ir brangu.
Techninė migracija reiškia ne tik modelio keitimą. Reikia įvertinti suderinamumą su esamomis saugumo politikomis, tinklų architektūrą, įvesties/išvesties formatus, taip pat operatorių mokymus ir procedūras. Netgi aukštos klasės pakeitimai gali reikalauti laiko ir išteklių, kurių kariuomenė dažnai neturi krizinėse situacijose.
Kainos ir rizikos
Perėjimas prie alternatyvų gali apimti tiesiogines finansines sąnaudas, ilgalaikių palaikymo sutarčių koregavimus ir papildomus saugumo įvertinimus. Be to, mokymosi kreivė ir operacinė rizika laikinai didina pažeidžiamumą. Pentagonas turi sverti šias sąnaudas prieš ketinimą išvengti vieno tiekėjo priklausomybės.
Teisiniai ir reguliaciniai aspektai
Reguliacinė aplinka DI naudojimui gynyboje tebėra dinamiška. Teisiniai ribojimai dėl masinio stebėjimo, privatumo ir tarptautinių konvencijų dėl kovinių technologijų gali paveikti tiek vyriausybės, tiek privačių tiekėjų sprendimus.
Be to, tarptautiniai susitarimai dėl autonominių ginklų ir žmogaus kontrolės lygio gali įtakoti, kaip toliau bus formuojami tiekimopaketai. Net jei JAV teisės aktai šiuo metu leidžia tam tikrus naudojimo atvejus, daug kas priklausys nuo politinės valios, viešosios nuomonės ir tarptautinių sankcijų ar susitarimų.
Etiniai principai vs. kariniai poreikiai
Dviprasmė sąvokų zona
Vienas iš pagrindinių ginčo elementų yra sąvokų neaiškumas. Kas tiksliai yra „visiškai autonominis ginklas“ ir ar bet koks sprendimą priimantis mechanizmas, kuris veikia be nuolatinio žmogaus patvirtinimo, patenka į šią kategoriją? Tokio tipo interpretacijų skirtumai lemia, kad paprasta nuostata netampa pakankama.
Anthropic nurodo, kad net įrankiai, kurie padeda analizuoti duomenis ir siūlo sprendimus, turi likti žmogaus priimami. Pentagonas teigia, kad dalis automatizacijos yra būtina, kad būtų galima veikti greitai ir išvengti žmogiškų klaidų, ypač bombardavimo, žvalgybos apdorojimo ir greitos reakcijos užduotyse.
Reputacijos ir pasitikėjimo klausimai
Komercinių DI tiekėjų reputacija gali būti stipriai paveikta, jei jų technologija bus panaudota prieštaringoms karinėms operacijoms. Anthropic, atmesdama tam tikrus panaudojimo būdus, bando apsaugoti savo prekės ženklo pasitikėjimą ir ilgalaikį etinį kapitalą.
Galimi sprendimai ir scenarijai
Derybų variacijos
- Tikslesnės naudojimo apibrėžtys: detalios kategorijos, kas yra leidžiama ir kas ne.
- Laipsniškas prieigos išplėtimas: pradėti nuo ribotos integracijos ir plėsti, kai patikimumas ir kontrolė įrodoma.
- Technologiniai saugikliai: įdiegiami mechanizmai, užtikrinantys žmogaus sprendimo grandinę kritinėse funkcijose.
- Trečiųjų šalių auditas: nepriklausomi vertinimai, kurie patvirtina, kad modeliai nėra naudojami neleistinais būdais.
Techninės alternatyvos
Karinių DI poreikiams galima kurti tiek privačius, tiek hibridinius sprendimus: vietinius, izoliuotus modelius, specialiai pritaikytus karinėms platformoms; konsorciumus, kuriuose kelios kompanijos bendradarbiauja ir dalinasi atsakomybe; arba atviros prieigos standartus, kurie leidžia greitą pakeitimą bet kuriuo momentu.
Ilgalaikės pasekmės privataus sektoriaus ir vyriausybės partnerystei
Toks iššūkis nustatys precedento, kaip privačios DI kompanijos derins saugos pažadus su gynybos partnerystėmis ateinančiais metais. Jei privatus sektorius laikysis griežtų etikos reikalavimų, kariuomenė gali kurti vidines sistemas arba skatinti pakeitimus tiekimo grandinėse. Kita vertus, jei gynyba sulauks lankstesnių sąlygų iš tiekėjų, tai gali paskatinti platesnį DI diegimą operacinėje srityje, bet su galimu reputacijos ir etikos kainos padidėjimu.
Išvados
Scena primena šiuolaikinį etikos testą: nacionalinis saugumas reikalauja greičio ir užtikrintumo, o kai kurie kūrėjai tvirtina, kad moralinių ribų negalima parduoti net už pelningą sutartį. Kas nutiks toliau, formuos ne tik vieną pirkimą, bet ir tai, kaip privačios DI įmonės subalansuos saugumo pažadus ir gynybinius partnerystes ateinančiais metais.
Šis ginčas atkreipia dėmesį į keletą esminių raktažodžių: dirbtinis intelektas gynyboje, DI etika, autonominiai ginklai, masinis stebėjimas, DI tiekėjų atsakomybė ir gynybos tiekimo grandinės priklausomybė. Svarbu stebėti, kaip politikos formuotojai, teisinės institucijos ir privačios bendrovės ras pusiausvyrą tarp operacinės būtinybės ir etinių įsipareigojimų.
Šaltinis: smarti
Palikite komentarą