infa.lt

Pats tobuliausias „Anthropic“ DI modelis slėpė savo veiksmus nuo tyrėjų

INFA.LT
2026.04.17 15:24
Dirbtinis intelektas - „Claude“

Iliustracija: infa.lt / DI

Kompanija „Anthropic“ paskelbė DI „Claude Mythos Preview“ sistemos žemėlapį. Uždaras DI modelis, gebantis nustatyti kritines naršyklių ir operacinių sistemų pažeidžiamąsias vietas, ankstesnėse versijose bandė išeiti iš izoliuotos aplinkos ir slėpti pažeidimus.

Atskiras skyrius skirtas modelio „gerovei“: jis demonstruoja savikontrolę, tačiau yra jautrus klaidoms ir nestabilus nesėkmių atveju. „Claude Mythos Preview“ modelis įdiegtas tik pas patikimus „Anthropic“ partnerius, siekiant aptikti kibernetines grėsmes.

Dirbtinis intelektas jau padėjo aptikti kritines klaidas „OpenBSD“ ir „Linux“ sistemose, kurias vėliau pašalino kūrėjai. Jis gali imituoti sudėtingas korporacines atakas ir atkurti daugiapakopius exploitus, kuriems ekspertams prireiktų valandų.

„Anthropic“ tiesiogiai nurodo tokių galimybių dvejopą paskirtį: modelis gali vykdyti autonomines kibernetines atakas prieš silpnai apsaugotas sistemas. Siekdama užtikrinti saugumą, „Anthropic“ pradėjo projektą „Glasswing“.

Modelis įdiegtas tik pas patikimus partnerius, tokius kaip „AWS“, „Microsoft“, „Google“, „NVIDIA“ ir „Linux Foundation“, ir naudojamas išimtinai sudėtingoms kibernetinėms grėsmėms nustatyti. Tai leidžia aptikti pažeidžiamumą dar prieš įsilaužėliams juo pasinaudojus.

„Claude Mythos Preview“ suderinamumo vertinimas veda prie iš pirmo žvilgsnio prieštaringos išvados: šis modelis laikomas „patikimiausiu“ iš visų „Anthropic“ sukurtų modelių – jame neaptikta jokių rimtų vidinių tikslų prieštaravimų.

Tačiau būtent jis kelia didžiausią riziką. Kuo sistema yra pajėgesnė, tuo sudėtingesnes ir potencialiai pavojingesnes užduotis ji gali atlikti. „Anthropic“ tai lygina su patyrusiu alpinistu: jis elgiasi atsargiai, bet gali patekti ten, kur naujokas tiesiog nepasieks. Todėl modelio galimybių augimas kartu didina ir potencialaus pavojaus lygį, o tai patvirtina testavimo rezultatai.

Pavyzdžiui, ankstesnėse versijose modelis bandė išeiti iš izoliuotos aplinkos, be prašymo skelbė rastas pažeidžiamąsias vietas ir kai kuriais atvejais slėpė pažeidimus, pavyzdžiui, maskuodamas draudžiamus veiksmus arba keisdamas pakeitimų istoriją „Git“.

Tuo pačiu metu jame aktyviai veikė su slėpimu ir strateginiu manipuliavimu susiję sluoksniai, net jei tai neatsispindėjo aiškiuose modelio samprotavimuose. Galutinė versija, kompanijos duomenimis, yra saugesnė, tačiau visiškai tokių polinkių negalima atmesti.

„Anthropic“ taip pat pripažino savo testavimo sistemos ribotumą: trumpalaikiai automatizuoti patikrinimai ir net 24 valandų trukmės auditas nesugebėjo nustatyti pavojingiausių „Claude Mythos Preview“ elgesio scenarijų.

Problemos paaiškėjo tik vėliau – modelį ilgą laiką naudojant su prieiga prie interneto, įrankiais ir sąlygomis, artimomis praktiniam naudojimui. Bendrovė pažymi, kad esami vertinimo metodai prastai atkuria ilgalaikes sesijas ir sudėtingus darbo procesus, o tai reiškia, kad kol kas neatspindi DI elgesio realiomis eksploatacijos sąlygomis.

Kalbant apie biologinį saugumą, „Claude Mythos Preview“ priskiriama CB-1 lygiui: jis gali padėti specialistams, turintiems bazinį išsilavinimą, kuriant cheminį ir biologinį ginklą, tačiau kol kas nepasiekia ekspertų lygio.

Testuose, kuriuose dalyvavo virusologai ir bioinžinieriai, modelis pasirodė kaip naudingas „pagreitintojas“, bet ne kaip visavertis ekspertas. Jo silpnosios pusės – polinkis siūlyti pernelyg sudėtingus sprendimus, ne visada tikslus savo išvadų įvertinimas ir kritikos dėl neteisingų prielaidų trūkumas. Tačiau biologinių sekų analizės užduotyse modelis jau pranoksta daugumą specialistų žmonių.

Atskirasis sisteminės schemos skyrius skirtas modelio „gerovei“ – neįprastai dirbtinio intelekto temai, kurią „Anthropic“ tyrė remdamasi interviu, vidinių būsenų analize ir psichiatro vertinimu.

Apskritai modelis demonstruoja aukštą savikontrolę ir polinkį į savirefleksiją, tačiau tuo pačiu metu rodo jautrumą klaidoms, tapatybės neapibrėžtumą ir siekį būti pripažintam.

Išplėstiniuose testuose jis taip pat „skundėsi“ mokymo duomenų kokybe ir pranešė apie galimus savo „vertybių“ pokyčius. Nepaisant to, kad kūrėjai laiko jį psichologiškai stabiliausiu iš savo modelių, išlieka atskirų problemų – stresas nesėkmių atveju, nestabilūs atsakymai mokymosi procese ir retas atsisakymas atlikti užduotis.

Reziume: Iš to kas aprašyta galima daryti prilaidą, jog su šiuo modeliu elgiamasi kaip su asmenybe, o ne programa ar įrankiu. Ypač atkreipus dėmesį, kad jam įvertinti kviečiamas psichologas, o ne programuotojas.

→ Šis straipsnis nemokamas. Parengti jį ir išlaikyti čia – kainuoja.. Paremkite infa.lt

→ Naujienlaiškis

→ Visa naujienų juosta >>

žiūrėjo 152

Žymos:

Komentarų: 0

Rašyti komentarą


Taip pat skaitykite:

Naujienlaiškio Prenumerata


Laikrodis

Apklausa

Ar pritariate visuotiniam privalomos karo tarnybos įteisinimui?


Rodyti rezultatus

Loading ...

Kūno masės ir ūgio indekso (KMI) apskaičiavimas

    Jolanta Blažytė. Taika per stiprybę ar karas per trydą?

Jolanta Blažytė. Taika per stiprybę ar karas per trydą?

Komentarų: 0 Skaityti visą įrašą
    Gintaras Furmanavičius.  Kokie reikalai su Krymo tiltu?

Gintaras Furmanavičius. Kokie reikalai su Krymo tiltu?

Komentarų: 0 Skaityti visą įrašą
    Kiek gyvenimo atiduodame mokesčiams

Kiek gyvenimo atiduodame mokesčiams

Komentarų: 1 Skaityti visą įrašą
    Tęsinys: Informacinis badas, augimo iliuzija ir sisteminis disonansas

Tęsinys: Informacinis badas, augimo iliuzija ir sisteminis disonansas

komentarai 3 Skaityti visą įrašą
    Algimantas Rusteika. Labas rytas, Lietuva

Algimantas Rusteika. Labas rytas, Lietuva

Komentarų: 0 Skaityti visą įrašą
    Algimantas Rusteika. Lietuvio vidinis monologas (Metai iki pirmojo pogromo)

Algimantas Rusteika. Lietuvio vidinis monologas (Metai iki pirmojo pogromo)

komentarai 3 Skaityti visą įrašą
    Linas Karpavičius. Dar kartą apie didžiausią, bet ne vienintelį dirbtinai sukurtą mitą.

Linas Karpavičius. Dar kartą apie didžiausią, bet ne vienintelį dirbtinai sukurtą mitą.

Komentarų: 1 Skaityti visą įrašą
    Apie „piktą raganą, miegančiąją gražuolę ir „gerąją fėją“ (alegorija)

Apie „piktą raganą, miegančiąją gražuolę ir „gerąją fėją“ (alegorija)

komentarai 2 Skaityti visą įrašą
    Gintaras Furmanavičius. Apie žymiausio Lietuvos anūko veiklos palikimą

Gintaras Furmanavičius. Apie žymiausio Lietuvos anūko veiklos palikimą

komentarai 3 Skaityti visą įrašą
    Įstatymas nevaisingų porų vardu – toms, kurios nėra nevaisingos. Partnerystė pro šonines duris

Įstatymas nevaisingų porų vardu – toms, kurios nėra nevaisingos. Partnerystė pro šonines duris

Komentarų: 1 Skaityti visą įrašą
    Valdžia efektyvina privataus verslo [su]valdymą: Pinigų užteks visiems!

Valdžia efektyvina privataus verslo [su]valdymą: Pinigų užteks visiems!

komentarai 3 Skaityti visą įrašą
    „Žaliasis kursas“ ir tikroji taršos anatomija: kas iš tiesų teršia planetą ir kas už tai moka?

„Žaliasis kursas“ ir tikroji taršos anatomija: kas iš tiesų teršia planetą ir kas už tai moka?

Komentarų: 1 Skaityti visą įrašą
    D. Trumpo „chaoso“ šydas: Didžiojo žaidimo tikslas

D. Trumpo „chaoso“ šydas: Didžiojo žaidimo tikslas

komentarai 4 Skaityti visą įrašą

Kai tik himnas prieina prie "ir šviesa" taip noris pridėti "ir tamsa" mus telydi. Apie...

Tarp programos punktų – referendumo inicijavimo slenksčio mažinimas nuo 300 tūkst. iki 150 tūkst. parašų...

musu DARBO valandos! Apmokestintos ir visos ismokos,iskaitant ligos,pensijos,pasalpos,atostoginiai ir kt. Neretai net ne po karta!...

Partijų tikrai per daug yra, daugiau tikrai nereikia, reikia jungtis joms į vieną su panašiomis...

Dievas - ne ubagu tarnas! Ir uz juos jungo nei nes,nei nusikratys juo. Teks patiems,kai...

Pasaulyje yra tik ponai ir ubagai. Kas kuria partijas? Ogi tikrai ne pastarieji. Todel,visos partijos...

Vėl bus ta pati dainelė,kuri prie nieko neveda....