infa.lt

Kinijos laivas. Kadras iš vaizdo įrašo

JAV kariuomenė vos nesusidūrė su labai rimta situacija, pasinaudojusi dirbtinio intelekto (DI) parengta melaginga žvalgybos ataskaita, cituoja šaltinius CNN kanalas.

Žvalgybos ataskaita, kuri šį pavasarį, karo su Iranu įkarštyje, buvo išplatinta JAV kariuomenėje, iš karto sukėlė pavojaus signalą: Kinijos laivas Artimuosiuose Rytuose gabeno branduolinių ginklų programos komponentus.

Keturių su incidentu susipažinusių šaltinių teigimu, JAV kariuomenė ėmėsi veiksmų, planuodama perimti laivą. Dviejų šaltinių teigimu, ginkluoti JAV kariai ruošėsi įlipti į laivą. Vienas iš šių šaltinių ir kitas su incidentu susipažinęs šaltinis teigė, kad į orą buvo pakelti kariniai lėktuvai.

Tik prieš pat planuojamą operaciją žvalgybos ir kariuomenės pareigūnai atidžiau išnagrinėjo specialiųjų operacijų vadovybės analitiko parengtą ataskaitą ir nustatė, kad ji buvo sugeneruota pasitelkus dirbtinį intelektą (DI) ir, kad analitiko naudotas pokalbių modelis netiksliai identifikavo laivo gabenamą krovinį.

CNN nepavyko sužinoti, koks buvo klaidingai identifikuotas krovinys.

Pasak vieno iš šaltinių, ataskaita buvo „visiškai melaginga“. Tačiau ji taip pat „beveik pradėjo karą“, sakė šaltinis. Bet kokia JAV operacija prieš Kinijos laivą galėjo virsti ginkluotu konfliktu tarp dviejų valstybių.

JAV kariuomenės ir žvalgybos bendruomenės pareigūnai stengiasi integruoti dirbtinį intelektą į beveik kiekvieną savo darbo aspektą – nuo didžiulių neapdorotos žvalgybos duomenų kiekių, kuriuos renka JAV, analizės ir taikinių atakoms atrankos iki kasdieniškesnių programų, tokių kaip biudžeto sudarymas, logistika ir tiekimo grandinės valdymas.

Tačiau šis epizodas pabrėžia didelę šios galingos, naujos ir menkai suprantamos technologijos naudojimo karo metu riziką.

Analitikai jau seniai baiminasi, kad dirbtinis intelektas gali pateikti katastrofišką klaidingą apskaičiavimą – tokio tipo klaidingą skaičiavimą, dėl kurio Jungtinės Valstijos gali apšaudyti Kinijos laivą remdamosi netikslia informacija.

Šiuo konkrečiu atveju analitikas paklausė pokalbių modelio apie žvalgybos pranešimus dėl laivo manifesto, kuriuos parengė Havajuose įsikūrusi JAV specialiųjų operacijų vadovybė Ramiajame vandenyne. Nebuvo aišku, ar pokalbių modelis buvo komercinis, ar JAV vyriausybės valdomas produktas.

„Vidaus įrankiai daugiausia yra tik komercinių produktų kopijos, papuoštos kosmetika“, – teigė buvęs aukštas JAV pareigūnas, gerai susipažinęs su dirbtinio intelekto sistemomis, kurias naudoja kariniai ir žvalgybos analitikai..

Automatizuota sistema sujungė atvirųjų šaltinių žvalgybos duomenis su slapta signalų žvalgybos informacija iš vyriausybinių duomenų bazių ir priėmė lemiamą išvadą dėl krovinio, kurį gabeno laivas.

Tuomet analitikas vėl pasitelkė dirbtinį intelektą, kad apibendrintų gautus duomenis į standartinę žvalgybos ataskaitą – tokią, kuria pasitiki karinė vadovybė, – ir ją išplatino.

JAV Ramiojo vandenyno specialiųjų operacijų vadavietė ir Pentagonas į prašymą pakomentuoti situaciją neatsakė.

Spartus dirbtinio intelekto (DI) diegimas grindžiamas tuo, kad ši technologija padeda kariuomenei greičiau priimti sprendimus mūšio lauke, pavyzdžiui, kokius taikinius atakuoti arba kur perkelti karinius pajėgumus.

Pareigūnai teigia, kad JAV negali sau leisti atsilikti integruojant DI, nes ateityje gali tekti kovoti su Kinija ar kitu priešininku, galinčiu įgyti pranašumą prieš JAV.

Sausio mėnesį gynybos sekretorius Pitas Hegsetas (Pete Hegseth) pristatė savo vadovaujamos žinybos „Dirbtinio intelekto diegimo spartinimo strategiją“, kuria siekiama paspartinti DI naudojimą kariuomenėje.

„Skatinsime eksperimentavimą, šalinsime biurokratines kliūtis, sutelksime investicijas ir pademonstruosime įgyvendinimo būdus, būtinus norint užtikrinti lyderystę karinio DI srityje“, – kalbėjo P. Hegsethas, pristatydamas šią strategiją.

Tačiau šios pastangos yra decentralizuotos, teigė keli su šia dinamika susipažinę JAV pareigūnai, o skirtingos vyriausybės dalys naudoja skirtingus įrankius pagal skirtingus įsakymus ir saugos standartus.

Nėra vieningo standartų rinkinio, kaip JAV tikrina šią DI sugeneruotą informaciją. Skirtingų dirbtinio intelekto sistemų, kurias diegia skirtingi kariuomenės ir žvalgybos bendruomenės kampeliai, visuma reiškia, kad santykinis patikimumas ir funkcionalumas labai skiriasi.

Jau kelias savaites Vašingtono politikos formuotojai intensyviai diskutuoja apie dirbtinį intelektą po to, kai Silicio slėnio inžinieriai ir technologijų generaliniai direktoriai gavo keletą niūrių įspėjimų apie galimybę, kad dirbtinis intelektas gali ištrūkti iš žmonių taikomų apribojimų, o tai gali turėti civilizacijos sunaikinimo pasekmių.

Tačiau incidentas su Kinijos laivu pabrėžia kitokią ir tiesioginę riziką: žmonės priima pražūtingus sprendimus, remdamiesi netikslia ar klaidinančia informacija, gauta iš dirbtinio intelekto ar kitų automatizuotų sistemų. Šaltiniai teigia, kad kariuomenė sparčiai kreipiasi į dirbtinį intelektą, kad šis padėtų nustatyti taikinį – sritį, kurioje akivaizdi mirtinų klaidų rizika.

„DI taikiklyje neabejotinai populiarėja, ir nėra jokių realių nurodymų, kaip žmogaus dalyvavimas šiame procese padės išvengti civilių aukų ar broliškų žudynių“, – sakė kitas šaltinis, susipažinęs su dabartine kariuomenės politika.

Tokia „haliucinacija“, kurią šiuo atveju sukėlė analitiko naudojamas dirbtinis intelektas, nebuvo pavienis incidentas žvalgybos bendruomenėje nuo tada, kai šios priemonės pradėjo plisti vyriausybėje, teigia vienas iš šaltinių.

Kai kuriems vyresnio amžiaus žvalgybos pareigūnams – net ir tiems, kurie iš esmės pritaria dirbtinio intelekto naudojimui kariuomenėje – DI daro spaudimą analitikams greičiau rengti ir skleisti žvalgybos informaciją, atverdamas duris klaidoms.

Keletas šaltinių teigė, kad ypač jauni analitikai yra įpratę naudotis šiomis priemonėmis ir yra labiau linkę jomis nekritiškai pasitikėti.

„Dirbtinis intelektas leidžia greičiau įgyvendinti blogą idėją“, – apibendrino vienas iš šaltinių.