infa.lt

Foto: infa.lt / DI

Kol pasaulis diskutuoja apie etinius DI rėmus, Baltųjų rūmų koridoriuose tvyro nerimas, kurio priežastis – „Claude Mythos“. Šis sirbtinis intelektas ne tik randa spragas ten, kur jų nematė geriausi pasaulio įsilaužėliai, bet ir priverčia pačią JAV vyriausybę ieškoti taikos su bendrove, kurią dar visai neseniai vadino rizikos faktoriumi.

Baltųjų rūmų Nacionalinio kibernetinio saugumo direktoriaus biuras (ONCD) šią savaitę pateikė technologijų ir kibernetinio saugumo įmonėms klausimyną, siekdamas išsiaiškinti, kaip valstybinis ir privatus sektoriai gali bendradarbiauti saugantis nuo naujos kartos DI įrankių keliamų grėsmių, rašo „Politico“ leidinys.

Pagrindiniai akcentai

• „Claude Mythos“ faktorius: Susitikimą ir klausimus iš dalies išprovokavo „Anthropic“ DI kompanijos sukurtas naujausias modelis „Mythos“. Šis įrankis geba aptikti paslėptas programinės įrangos klaidas ir tam tikrose užduotyse pranokti geriausius pasaulio įsilaužėlius. Šiuo metu prieiga prie jo ribojama per projektą „Glasswing“.
• Strateginis neapibrėžtumas: Industrijos atstovai gautus klausimus apibūdino kaip miglotus. Kai kurios užklausos liečia vidines saugumo praktikas, kurių įmonės nelinkusios atskleisti vyriausybei be aiškaus pagrindo.
• Politinė įtampa ir „atšilimas“: Nors vasario mėnesį prezidentas Donaldas Trampas (Donald Trump) uždraudė federalinėms agentūroms naudoti „Anthropic“ programinę įrangą, o Gynybos departamentas kovo mėnesį ją įvardijo kaip tiekimo grandinės riziką, požiūris keičiasi. Augantis „Mythos“ pajėgumas verčia administraciją ieškoti kompromisų („détente“).
• Vykdomasis įsakymas: Baltieji rūmai rengia vykdomąjį įsakymą, kuriuo siekiama įtvirtinti valstybės kontrolę ir saugumo standartus pažangiems DI modeliams. Tačiau procesas stringa dėl institucinio pasipriešinimo: baiminamasi, kad griežtas reguliavimas pažeis laisvos rinkos principus, atskleis įmonių intelektinę nuosavybę ir sulėtins JAV technologinį pranašumą pasaulinėje konkurencijoje.

Kibernetinio saugumo iššūkiai

ONCD siekia gauti gaires, kaip prioritetizuoti milžinišką kiekį programinės įrangos klaidų (angl. bugs), kurias aptiks pažangus dirbtinis intelektas.

Pagrindinė problema – kaip diegti pataisymus ypatingos svarbos infrastruktūrai, neatskleidžiant informacijos apie pažeidžiamumus potencialiems užpuolikams.

Konkurencija šiame lauke aštrėja, nes „OpenAI“ ir kitos bendrovės taip pat pradėjo testuoti savo pažangius kibernetinio saugumo modelius.