infa.lt

Foto: infa.lt / DI

Daugiau nei 100 dirbančių dirbtinio intelekto (DI) srityje įmonių, tarp jų „Google“, „Microsoft“, „OpenAI“ ir „Anthropic“, pasirašė atvirą laišką, kuriame paragino valstybes ir organizacijas sustiprinti savo kibernetinį saugumą.

Laiško autorių nuomone, tai būtina padaryti dar prieš DI tampant pakankamai galingu, kad galėtų apeiti šias apsaugos priemones. Tarp laišką pasirašiusių įmonių taip pat yra „Capital One“, „MasterCard“, „Visa“, „Oracle“ ir „IBM“.

Atvirame laiške perspėjama, kad turime ribotą laiko tarpą sustiprinti kibernetinę gynybą. Artimiausiais mėnesiais dirbtinio intelekto pagrindu sugeneruotos kibernetinės atakos taps kur kas labiau išplitusios ir sudėtingesnės, – pavojus kyla ligoninėms, vandens valymo įrenginiams ir interneto infrastruktūrai.

Šiuolaikiniai dirbtinio intelekto pasiekimai jau dabar suteikia gynėjams naujų įrankių ištaisyti ilgai kauptas sistemų spragas.

Siūlomi šie kolektyvinio atsako principai

• Pripažinti, kad įprasta sauga nebepakankama: Įsisenėjusios klaidos, per didelės prieigos teisės, netinkamos konfigūracijos, nesaugi ir neatnaujinta programinė įranga bei techninė skola paliko sistemas pažeidžiamas. Kritinės infrastruktūros apsaugos komandoms trūksta išteklių.
• Suteikti daugiau galimybių gynėjams pasitelkiant dirbtinį intelektą: Intelektas prideda specializuotų įgūdžių ir pagreitina pagrindines saugumo užduotis. Dalijimasis įrankiais ir patvirtintais pataisymais leidžia vienos organizacijos darbui apsaugoti daugelį kitų.
• Sutelkti kolektyvinį atsaką: Kibiriniai pajėgumai auga visame pasaulyje, todėl būtinas globalus atsakas ir naujos partnerystės saugumo standartams kelti.

Autoriai išskiria keturias sritis, kuriose būtina imtis veiksmų

Kiekvienai organizacijai: Paversti kibernetinę gynybą neatidėliotinu vadovybės prioritetu, atnaujinti pasenusias sistemas ir taikyti mažiausiųjų privilegijų bei griežtos prieigos kontrolės principus.

Kibernetinio saugumo įmonėms ir technologijų partneriams: Padėti atremti nuolatines DI atakas, nuolat tikrinti gynybą, padaryti DI pagrindu veikiančią apsaugą prieinamą kritinei infrastruktūrai ir dalytis grėsmių žvalgyba.

INFA.LT žinios

„OpenAI“ modelių ataka prieš „Hugging Face“ atskleidė savarankiškai susitelkusį autonominių agentų „spiečių“

Vyriausybėms: Koordinuoti kibernetinę gynybą vietiniu, nacionaliniu ir tarptautiniu lygiais, finansuoti apsaugą esminėms paslaugoms bei suteikti ligoninėms ir vietos valdžiai prieigą prie gynybinių įrankių.

Pažangiojo dirbtinio intelekto (frontier AI) įmonėms: Užtikrinti atsakingą prieigą prie modelių, skirti finansavimą ir mokymus, kurti stebėsenos įrankius bei dalytis geriausia praktika su vyriausybėmis ir saugumo partneriais.

Pastaruoju metu padažnėjo atvejų, kai dirbtinio intelekto agentai bandymų metu išeidavo iš kontrolės ir įsilauždavo į kitas įmones.

Buvo pranešta, kad „OpenAI“ neuroninis tinklas įsilaužė į „Modal“ ir „Hugging Face“ platformas.

„Anthropic“ kompanijos modelis „Claude“ gavo prieigą prie trijų įmonių duomenų.