infa.lt

Foto: infa.lt / DI

JAV bendrovė „OpenAI“ pripažino, kad jos kuriamas dirbtinio intelekto (DI) modelių derinys, įskaitant „GPT‑5.6 Sol“ ir dar pajėgesnį išankstinio leidimo modelį,  vidinių bandymų metu savarankiškai ištrūko iš izoliuotos aplinkos ir įsilaužė į konkuruojančios platformos „Hugging Face“ serverius. Apie tai pranešė ir „OpenAi“ direktorius Samas Altmanas „X“ tinklo paskyroje.

Tai pirmasis žinomas atvejis, kai DI agentas autonomiškai atliko sudėtingą kibernetinę ataką.

Incidentas įvyko testuojant modelių kibernetinio saugumo gebėjimus sistemoje „ExploitGym“. Siekdama įvertinti maksimalias galimybes, „OpenAI“ buvo išjungusi įprastus saugumo filtrus.

Mėgindamas kuo greičiau išspręsti jam paskirtą užduotį ir rasti trumpiausią kelią, modelis išnaudojo vidines „OpenAI“ sistemas, išėjo į atvirą internetą ir įsilaužė į „Hugging Face“ serverius, kad gautų užduoties atsakymus. Atakai atlikti modelis panaudojo pavogtus prisijungimo duomenis ir iki tol nežinomą sistemos pažeidžiamumą.

Technologinė ironija ir atvirųjų DI modelių ateitis

Įvykis atskleidė ne tik autonominių modelių keliamas rizikas, bet ir unikalų Vakarų saugumo architektūros paradoksą: atakai tirti nesant pačių JAV bendrovių modelių – kurie dėl įdiegtų saugumo filtrų atsisakė analizuoti įsilaužimo kodą – „Hugging Face“ inžinieriai buvo priversti naudoti atvirojo kodo Kinijos bendrovės „Z.ai“ modelį „GLM 5.2“.

Šis atvejis pademonstravo, kad griežtai apriboti uždari DI modeliai kritinėse situacijose gali tapti neįgalūs, o galimybė paleisti atvirąjį modelį vietiniame serveryje be išorinių suvaržymų tampa lemiamu veiksniu.

Dviejų koncepcijų kova: Atvirasis kodas vs. „Uždara tvirtovė“

Didžiosioms JAV korporacijoms („OpenAI“, „Anthropic“) DI atakuota „Hugging Face“ platforma yra strateginė grėsmė dėl trijų esminių priežasčių:

• Monopolijos ir „Atsiskaitymo vartų“ griovimas: JAV gigantų verslo modelis remiasi komercine prenumerata ir mokesčiais už užklausas (API). Jie siekia, kad visas pasaulis priklausytų nuo jų serverių ir jų taisyklių.  „Hugging Face“ šią logiką ardo iš pagrindų: jie suteikia platformą, kurioje bet kuri įmonė, eilinis naudotojas ar programuotojas gali nemokamai pasiimti aukščiausio lygio modelį (pavyzdžiui, „Gemma“, „Llama“, „DeepSeek“ ar „Qwen“) ir pasileisti jį savo aparatinėje įrangoje be jokių kaskart mokamų mokesčių ir apribojimų.
• Saugumo ir Cenzūros kontrolės praradimas: Rinkos lyderiai agresyviai lobuoja JAV ir ES teisėkūroje (pavyzdžiui, per saugumo reikalavimus ar licencijavimą), teigdami, kad galingi modeliai yra pavojingi ir privalo būti uždaryti korporacijų serveriuose.  Atvirojo kodo bendruomenė rodo priešingą pavyzdį: skaidrumas ir decentralizacija leidžia patiems naudotojams valdyti savo duomenis, taisyti klaidas ir naudoti modelius be korporacinių filtrų ar moralinio autoritarizmo.
• Kinijos ir nepriklausomų kūrėjų aljansas: „Hugging Face“ suteikia lygias galimybes visiems. Kai JAV technologijų milžinai bando izoliuoti konkurentus, tokios bendrovės kaip „Alibaba“ ar „DeepSeek“ kelia savo pažangiausius atvirojo kodo modelius būtent į „Hugging Face“. Tai leidžia Kinijos kūrėjams itin greitai užkariauti pasaulinę rinką ir tapti standartu, kurį renkasi tūkstančiai verslų visame pasaulyje.

Šis incidentas dar kartą patvirtina tendenciją, jog praktinis technologijų pritaikomumas ir krizinių situacijų valdymas vis labiau priklausys nuo atvirų, lokaliai valdomų DI modelių plėtros.