infa.lt

Iliustracija: infa.lt / DI

Aukščiausi „Anthropic“, „OpenAI“ ir kitų dirbtinio intelekto bendrovių vadovai slapta kuria viešojo ir politinio maišto scenarijus po katastrofiško dirbtinio intelekto sukelto įvykio.

Šie žmonės numato didelio masto įvykį, greičiausiai kibernetinę ataką, kuri nutrauktų prieigą prie finansinių paslaugų, interneto ryšio ar net elektros energijos ir vandens tiekimo, rašo „Axios“ leidinys.

Pirmasis didelės realios žalos, kurią sukelia nesaugus dirbtinis intelektas, pavyzdys dar labiau nukreiptų ir taip atsargią visuomenę prieš DI technologiją ir jos lyderius, įskaitant „Anthropic“ generalinį direktorių Dario Amodei ir „OpenAI“ generalinį direktorių Samą Altmaną, taip pat prezidentą Donaldą Trampą už jo nenorą reguliuoti dirbtinio intelekto kompanijų.

Grėsmės lygis: Nors scenarijų planavimas yra įprastas daugelyje įmonių ir nacionalinio saugumo įstaigose – Pentagonas jau dešimtmečius rengia karo žaidimus – skirtumas yra tas, kad daugelis aukščiausių dirbtinio intelekto tyrėjų ir vadovų mano, kad didelis incidentas yra neišvengiamas.

„OpenAI“ vykdo pasirengimo pratybas, kurių metu komandos aptaria ir dirba su įvairiais galimais scenarijais“, – sakė bendrovės atstovas. „Šie scenarijai nėra traktuojami kaip neišvengiami, bet yra skirti padėti mums pasiruošti įvairioms aplinkybėms.“

„Anthropic“ atsisakė komentuoti. Kaltinimų žaidimas prasidės nepriklausomai nuo to, ar nesąžiningų agentų spiečius prasibraus pro vidinės testavimo aplinkos apsaugą, ar piktavalis veikėjas ras netikėtų būdų panaudoti turimus modelius.

Neseniai vykusi įsilaužimo kampanija, nukreipta prieš Pietų Korėjos finansų organizacijas, įskaitant pranešimus apie dviejų bankų pažeidimus ir duomenų nutekinimą, rodo, kokią žalą gali padaryti vienas žmogus.

INFA.LT žinios

Dirbtinio intelekto pagalba įsilaužę hakeriai pagrobė Pietų Korėjos bankų klientų duomenis

Įtariama, kad įsilaužėlis iš Kinijos panaudojo dirbtinio intelekto įrankius iš Kinijoje sukurtų modelių, įskaitant „DeepSeek“, kad pavogtų duomenis iš dešimčių tūkstančių banko klientų.

Pasak kibernetinio saugumo bendrovės „CrowdStrike“, užpuolikas panaudojo „Claude Code“, kad paprašytų pagalbos ieškant vietų, kur parduoti pavogtus duomenis.

Geriausi dirbtinio intelekto planuotojai mano, kad po vidurio kadencijos rinkimų iškilę demokratai greitai imsis veiksmų, kad uždarytų dirbtinį intelektą, tačiau susidurs su dideliais iššūkiais.

Senstantis Kongresas, atitrūkęs nuo dirbtinio intelekto revoliucijos, gali atsidurti bejėgėje padėtyje.

Pasaulio ekonomika dabar yra glaudžiai susijusi su dirbtinio intelekto infrastruktūros kūrimu. Jos sulėtinimas galėtų smarkiai paveikti ir taip trapią ekonomiką.

Per daug atviro svorio modelių jau galima laisvai atsisiųsti ir naudoti žalai sukelti – problema, kurią dauguma kibernetinio saugumo specialistų laiko išsprendžiama tik panaudojant dirbtinį intelektą kovai su nesąžiningu dirbtiniu intelektu.

Tarp eilučių: Planavimas apima raudonų komandų sudarymą blogiausio atvejo scenarijuose. Daugiausia dėmesio skiriama lenktynėms, siekiant informuoti Kongreso narius.

Įmonių vadovai žino, kad reglamentas šiuo metu neturi jokių šansų būti priimtas, tačiau vis tiek nori formuoti teisės aktus ir politiką, kuria JAV vadovai vadovausis po pirmojo katastrofiško įvykio.

Ką stebime: Daugelis dirbtinio intelekto pramonės atstovų „Axios“ sakė manantys, kad per ateinančius šešis–dvylika mėnesių įvyks svarbus įvykis.

Net ir demokratams kontroliuojant Atstovų rūmus ir Senatą, įmonės susiskaldžiusią politiką laiko norma, įskaitant ir Demokratų partijos viduje.

Kai kurie iš griežčiausių demokratų pasiūlymų apima superintelekto uždraudimą arba pažangaus dirbtinio intelekto kūrimo sustabdymą.

Kitus remia abi partijos ir netgi kai kurie pramonės atstovai, įskaitant privalomą pažangiojo dirbtinio intelekto išjungimo jungiklį.

Tačiau ekspertai abejoja bandymo išjungti visas dirbtinio intelekto sistemas gyvybingumu.

Esmė tokia: ištikus tikrai krizei, Vašingtonas gali pamiršti partinius nesutarimus. Vienas demokratų padėjėjas atkreipė dėmesį į bendradarbiavimą COVID ir 2008 m. finansų krizės metu.