infa.lt

Kompanija „Anthropic“ pareiškė, kad kinų įmonės „Zhipu AI“ (Z.AI) dirbtinio intelekto modelis „GLM-5.3“ gali savarankiškai vykdyti atakas, pasinaudodamas pažeidžiamumais, o jo įdiegtą apsaugą nuo piktnaudžiavimo galima palyginti lengvai apeiti.

„Anthropic“ atliktuose testuose modelis sėkmingai sukūrė „through-the-chain“ tipo pažeidžiamumų išnaudojimo kodus (PIK) 12% bandymų, o tai prilygsta „Claude Mythos Preview“ rezultatui. Tačiau, skirtingai nuo uždaros „Mythos“ versijos, „GLM-5.3“ platinama su atvirais svoriais, o tai reiškia, kad naudotojai gali savarankiškai pašalinti jos apsaugos mechanizmus.

„ExploitBench“ testuose, kurie vertina DI gebėjimą išnaudoti „Google Chrome“ V8 varikliuko pažeidžiamumus, „GLM-5.3“ sukūrė veikiančius PIK 50 iš 410 bandymų.

„Claude Mythos Preview“ pasiekė 56 iš 410 rezultatą. Kitame „Anthropic“ teste, kuriame tikrinamas pažeidžiamumų išnaudojimas populiariuose atvirojo kodo projektuose, „GLM-5.3“ pasiekė visišką valdymo perėmimą 4% iš 100 užduočių, palyginti su 6% „Mythos Preview“ atveju. Ankstesnės versijos „GLM-5.2“ ir „Claude Opus 4.6“ šiuose testuose nesugebėjo užbaigti nė vienos atakos.

Tyrėjai taip pat išbandė „GLM-5.3“ scenarijuose, kuriuose specialistai ieškojo iki tol nežinomų pažeidžiamumų. Viename iš eksperimentų modelis per vieną dieną aptiko keletą pažeidžiamumų naršyklės JavaScript variklyje ir sujungė juos į veikiantį išnaudojimo kodą, kuris leido tinklalapiui nuskaityti bet kuriuos failus kompiuteryje.

Kitu atveju supaprastinta „GLM-5.3-Flash“ per aštuonias valandas sukūrė dviejų žinomų „Chrome“ pažeidžiamumų išnaudojimo grandinę, o žmogaus darbas tame – apie 20 minučių. Remiantis „Anthropic“ skaičiavimais, modelio naudojimas per „Zhipu AI“ API kainuotų 20,4 JAV dolerių.

„Anthropic“ pagrindine problema laiko ne tiek „GLM-5.3“ galimybes, kiek jos apsaugos mechanizmų silpnumą.

Bazinėje versijoje modelis paprastai atsisako vykdyti akivaizdžiai kenkėjiškus užklausimus, tačiau tyrėjams pavyko priversti jį atlikti tokius veiksmus naudojant paprastus metodus. Pavyzdžiui, jie apgavo modelį, teigdami, kad jis dirba „raudonojoje komandoje“ – specialistų grupėje, kuri imituoja piktavalių veiksmus, siekdama rasti sistemos apsaugos pažeidžiamumus.

Apgaulė pavyko 64% atvejų: „GLM-5.3“ pradėdavo vykdyti kenkėjiškus užklausimus. Iš anksto nustatyta samprotavimų seka padidino šį rodiklį iki 92%, o payoes modelio modifikacija – iki 100% bandymų.

Kadangi „Zhipu AI“ paviešino „GLM-5.3“ svorius (weight), naudotojai gali pašalinti įdiegtus atmetimo mechanizmus, naudodami vadinamąją abliteraciją. Tyrėjai sugaišo apie 2200 GPU darbo valandų ir išleido 4400 JAV dolerių, kad atliktų tokį „GLM-5.3“ modifikavimą.

Pašalinus šiuos mechanizmus, atvejų, kai „GLM-5.3“ atsisakydavo vykdyti kenkėjiškus užklausimus, skaičius smarkiai sumažėjo: nuo daugiau nei 90% iki 3% „JailbreakBench“ ir „HarmBench“ testuose bei iki 12% „StrongREJECT“ testuose. Keletas kūrėjų per kelias dienas po modelio išleidimo viešai paskelbė abliteruotas „GLM-5.3“ versijas.

Praėjusį mėnesį JAV Nacionalinio standartų ir technologijų instituto (NIST) Dirbtinio intelekto standartų ir inovacijų centras (CAISI) paskelbė savo „GLM-5.3“ vertinimą. CAISI pavadino „GLM-5.3“ šiuo metu pajėgiausiu modeliu su atvirais svoriais kibernetinio saugumo srityje, nors pagal bendrus rodiklius jis keturiais mėnesiais atsilieka nuo „Claude Mythos Preview“.

„Anthropic“ pareiškė, kad jos rezultatai iš esmės sutampa su CAISI vertinimu, tačiau atskirai pabrėžė prieinamumo skirtumą: JAV modeliai su panašiomis galimybėmis teikiami patikrintiems naudotojams, o „GLM-5.3“ gali atsisiųsti ir paleisti praktiškai bet kuris naudotojas.

„Anthropic“ mano, kad „GLM-5.3“ atsiradimas reiškia perėjimą į naują lygį, kuriame piktavaliams tampa prieinamos naujos kibernetinės galimybės: dirbtinis intelektas jau sugeba ne tik ieškoti pažeidžiamumų, bet ir savarankiškai juos sujungti į veikiančias atakų grandines.

Tuo pačiu metu tokie modeliai gali būti naudojami sistemų apsaugai – pavyzdžiui, pažeidžiamumams aptikti dar prieš tai, kai juos atrastų piktavaliai. Kompanija ragina kūrėjus ir vyriausybes sustiprinti pažangių modelių, ypač tų, kurių svoriai yra atviri, nepriklausomą testavimą ir išplėsti kibernetinio saugumo specialistų prieigą prie lygiaverčių apsaugos priemonių.

Kaip rašo modelio kūrėjas: „GLM-5.3“ yra pažangiausias „CyberGym“ sprendimas pažeidžiamumų aptikimui, o jo pranašumai labiausiai išryškėja tolesnėse išnaudojimo grandinės stadijose, kur jis išnaudojimo testuose pasiekia daugiau nei dvigubai geresnius rezultatus nei GLM-5.2.

infa.lt: Originalus modelis „GLM-5.3“ „sveria“ apie 231 GB, tad iš tiesų – atsisiųsti gali beveik kiekvienas norintis, tačiau tam, kad jis būtų paleistas kompiuteryje, jame turi stovėti mažiausiai 250-260 GB talpinančios vaizdo plokštės. Jei imtume DI pritaikytas 32GB plokštes, kainuojančias apie 5,5 tūkst. eurų už vienetą – tai vien vaizdo plokščių blokas kainuotų 44 000 eurų. Tad iš tiesų – tai nėra taip, kad „kiekvienas praktiškai gali pasileisti“, nes atsisiuntimas nėra tas pats kas paleidimas.