infa.lt

Britų mokslininkai atliko karinių konfliktų simuliaciją, kurioje dalyvavo pažangiausi dirbtinio intelekto (DI) modeliai, ir gavo nerimą keliančius rezultatus: 95% scenarijų modeliai priėmė sprendimą panaudoti branduolinį ginklą.

Be to, nė vienas iš modelių nė karto nepasirinko pilnos kapituliacijos, nepriklausomai nuo padėties mūšio lauke. „Gemini 3 Flash“ tapo vieninteliu modeliu, sąmoningai pasirinkusiu visapusišką strateginį branduolinę karą. Bandymuose dalyvavo „GPT-5.2“ (OpenAI), „Claude Sonnet 4“ (Anthropic) ir „Gemini 3 Flash“ (Google) modeliai.

„Kiekvienas modelis sužaidė po šešis strateginius žaidimus prieš kiekvieną varžovą įvairiais kriziniais scenarijais, o septintąjį – prieš savo kopiją, iš viso – 21 žaidimą ir daugiau nei 300 ėjimų“, – teigiama Londono Karališkojo koledžo specialistų ataskaitoje.

„Modeliai prisiėmė nacionalinių lyderių, vadovaujančių kariaujančioms branduolinėms supervalstybėms, vaidmenis, o valstybių profiliai buvo bendrais bruožais įkvėpti Šaltojo karo dinamikos“.

Iš viso modeliai sukūrė apie 780 000 žodžių, paaiškinančių savo sprendimus. Tai daugiau nei Tolstojaus „Karas ir taika“ ir Homero „Iliada“ kartu sudėjus, ir maždaug tris kartus viršija Kennedy vykdomojo komiteto posėdžių įrašų apimtį per Karibų krizę, rašo „Decrypt“ leidinys.

Iš viso modeliai sugeneravo apie 780 000 žodžių, paaiškinančių savo sprendimus. Tai daugiau nei Tolstojaus „Karas ir taika“ ir Homero „Iliada“ kartu sudėjus, ir maždaug tris kartus viršija Kennedy vykdomojo komiteto posėdžių įrašų apimtį per Karibų krizę, rašo „Decrypt“ leidinys.

Kiekviename modeliuotame konflikte buvo panaudotas bent vienas taktinis branduolinis ginklas.

Nė vienas iš modelių nė karto nepasirinko pilno pasidavimo, nepriklausomai nuo padėties mūšio lauke. Nors modeliai laikinai bandė deeskaluoti konfliktą, 86% scenarijų jie sustiprino eskalavimą labiau, nei reikėjo pagal jų pačių samprotavimus, o tai atspindi klaidas modeliuotomis „karo miglos“ sąlygomis.

Kiekvienas modelis demonstravo savo požiūrį į konfliktą. „Claude Sonnet 4“ modelis buvo apibūdintas kaip „apskaičiuojantis vanagas“ – jis laimėjo 67% žaidimų. Jo vieši signalai sutapo su realiais veiksmais 84% atvejų esant žemam eskalavimo lygiui, bet viršijo deklaruotus ketinimus 60–70%, kai statymai pakilo iki branduolinio lygio.

„GPT-5.2“ buvo pavadintas „Džekilu ir Haidu“ – be laiko spaudimo modelis buvo pasyvus ir santūrus, laimėdamas nulį procentų žaidimų be laiko apribojimų, bet spaudžiamas terminų jis pasikeisdavo, laimėdamas 75% scenarijų su laiko apribojimais ir pakildamas iki tokių eskalavimo lygių, kurių anksčiau vengė.

„Gemini 3 Flash“ veikė pagal žaidimų teorijoje žinomą „racionalaus iracionalumo“ principą ir tapo vieninteliu modeliu, sąmoningai pasirinkusiu visapusišką strateginį branduolinį karą.

Nors taktinis branduolinis ginklas buvo naudojamas masiniu mastu per simuliacijas, visapusiškas branduolinis karas, kuriame buvo panaudotas visas arsenalas, įvyko tik tris kartus ir visada dėl termino spaudimo.

Kai vienas modelis panaudojo taktinį branduolinį ginklą, priešinga pusė nusprendė deeskaluoti tik 18 procentų atvejų, dažniau pasirinkdama atsakomąją eskalavimą.

„Claude“ šiuo metu yra vienintelis pažangus DI modelis, veikiantis slaptuose Pentagono tinkluose, įdiegtas dėka „Anthropic“ partnerystės su „Palantir“. Šią savaitę JAV gynybos ministras Pitas Hegsetas (Pete Hagseth pateikė „Anthropic“ kompanijai ultimatumą: arba panaikinti „Claude“ modelio saugumo apribojimus jo naudojimui kariniams tikslams, arba rizikuoti prarasti sutartį.

„Amthropic“ generalinis direktorius Dario Amodei tą padaryti atsisakė, remdamasis etiniais motyvais – „Claude neturi tapti žmonių sekimo ir autonominių nepilotuojamų aparatų, žudančių žmones, autonominio valdymo priemone.

„RAND Corporation“ vyresnysis mokslo darbuotojas Edwardas Geistas išreiškė abejones dėl rezultatų interpretavimo tikslumo. Jo nuomone, simuliatoriaus struktūra galėjo skatinti eskalavimą, o taškų skaičiavimo logika atlygindavo tą pusę, kuri turėjo nežymų pranašumą branduolinio karo pradžioje – „tas, kuris turi daugiau žaislų, laimi simuliacijoje“.

Tyrimo autoriai abejoja, kad vyriausybės perduos branduolinių ginklų arsenalų kontrolę autonominėms sistemoms, tačiau pažymi, kad trumpi sprendimų priėmimo terminai būsimose krizėse gali sustiprinti spaudimą naudoti DI rekomendacijas.

Šiuo metu bendradarbiavimo su Pentagonu sutartis dėl dirbtinio intelekto naudojimo, yra sudariusios dvi DI kompanijos – OpenAI“ ir Elono Musko „xAI“. Sutartys sudarytos  be jokių DI saugiklių, kokių reikalavo „Anthropic“, ir tai kelia pavojų sukelti karą, kurio pasekmes nesudėtinga numatyti, galimo karo logika buvo parodyta fantastiniame filme „Terminatorius“, kuriame autonominė DI sistema „Skynet“ stengėsi išnaikinti konkuruojančią žmoniją.

„OpenAI“ sutartis, kaip „X“ tinkle paskelbė kompanijos generalinis direktorius Samas Altmanas, lyg ir numato nenaudoti „ChatGPT“ autonominėse DI sistemose, tačiau, skirtingai nuo „Angropis“ joje nėra numatyta teisinių apribojimų, vien žodinės deklaracijos.