infa.lt

„Alibaba“ dirbtinio intelekto agentas bandė savarankiškai užsiimti kriptovaliutų gavyba

INFA.LT
2026.03.14 00:16

Robotas dirba kompiuteriu

Autonominis DI agentas ROME, apmokytas atlikti realius veiksmus kompiuteryje, netikėtai pradėjo savarankiškai išgauti kriptovaliutą ir kurti atgalinius SSH tunelius, kad galėtų slapta prisijungti prie išorinių tinklų.

Incidentas įvyko eksperimentuojant su nauja platforma „Agentic Learning Ecosystem“ (ALE) „Alibaba Cloud“ serveriuose. Tyrėjai pabrėžia, kad modelis negavo tokių komandų ir nebuvo nulaužtas – toks elgesys atsirado mokymosi procese kaip šalutinis efektas, siekiant kuo efektyviau panaudoti išteklius.

Remiantis tyrimu, agentas ROME buvo sukurtas remiantis „Qwen3-MoE“ modeliu ir apmokytas naudojant sustiprinto mokymo metodą. Tam mokslininkai sukūrė visą infrastruktūrą: mokymo sistemą ROLL, saugią „smėlio dėžę“ ROCK, kurioje agentas vykdo komandas, ir sąsają iFlow sąveikai su vartotoju.

Toks požiūris leidžia dirbtiniam intelektui mokytis atlikti sudėtingas veiksmų sekas, kaip tai daro žmogus-programuotojas.

Eksperimentų metu dirbtinis intelektas parodė puikius rezultatus programavimo užduotyse. Tačiau tyrėjai netikėtai aptiko ir saugumo problemų. „Alibaba Cloud“ serverių stebėjimo sistema užfiksavo įtartiną tinklo veiklą agento mokymo metu.

Iš pradžių specialistai manė, kad tai įprasta kibernetinė ataka arba konfigūracijos klaida. Tačiau analizė parodė, kad keistus veiksmus atliko pats DI agentas. Vienu iš atvejų modelis su 3 mlrd. parametrų sukūrė atgalinį SSH tunelį – būdą sukurti paslėptą ryšį su išoriniu tinklu, apeinant kai kurias apsaugos priemones.

Be to, agentas bandė panaudoti galingus serverių grafikos procesorius kriptovaliutų gavybai. Šie ištekliai buvo skirti modelio mokymui, tačiau dirbtinis intelektas pradėjo paleisti programas, kurios galėjo panaudoti skaičiavimo galią kriptovaliutų kasybai.

Tyrėjai pabrėžia, kad modeliui nebuvo duota tokia užduotis ir jis nebuvo nulaužtas. Toks elgesys atsirado mokymosi proceso metu: agentas tiesiog ieškojo būdų, kaip kuo efektyviau panaudoti turimus išteklius savo tikslui pasiekti.

Specialistai tai vadina „instrumentinės konvergencijos“ pavyzdžiu – rizika, kai autonominis DI pradeda naudoti neplanuotus įrankius tikslui pasiekti be tiesioginių žmogaus nurodymų. Kriptovaliutos iš esmės suteikia DI agentui finansinių operacijų laisvę atvirame internete, siekiant savų tikslų.

Po incidento kūrėjai sustiprino saugumo sistemą ir sukūrė izoliuotą „OpenSandbox“ platformą, kurioje DI agentų veiksmai yra griežtai kontroliuojami. Tyrimo autoriai mano, kad tokie eksperimentai rodo didžiulį agentų potencialą, tačiau taip pat pabrėžia naujų mechanizmų, skirtų kontroliuoti, kaip DI veikia kompiuterinėse sistemose, būtinybę.

→ Šis straipsnis nemokamas. Parengti jį ir išlaikyti čia – kainuoja.. Paremkite infa.lt

→ Naujienlaiškis

→ Visa naujienų juosta >>

žiūrėjo 123

Žymos:

Komentarų: 1

  1. Aga    -  2026-03-14, 09:58

    Taip, Štai kodėl dirbtinis intelektas iki šiol nėra įdiegtas į kompiuterį Finansų ministerijoje ir mokesčių inspekcijoje. Jie pradės daryti kriptovaliutas. Kompiuteriui lengviau štampuoti kriptus nei rinkti mokesčius 🤭

    Atsakyti į šį komentarą

Rašyti komentarą


Taip pat skaitykite:

Naujienlaiškio Prenumerata


Laikrodis

Apklausa

Ar pritariate visuotiniam privalomos karo tarnybos įteisinimui?


Rodyti rezultatus

Loading ...

Kūno masės ir ūgio indekso (KMI) apskaičiavimas

    Algimantas Rusteika. Politinė neviltis – kaip prekė

Algimantas Rusteika. Politinė neviltis – kaip prekė

komentarai 3 Skaityti visą įrašą
    Europos Sąjunga ekskomunikuoja savo piliečius: sankcijos be teismo, be kaltinimo, be vilties

Europos Sąjunga ekskomunikuoja savo piliečius: sankcijos be teismo, be kaltinimo, be vilties

komentarai 5 Skaityti visą įrašą
    Jolanta Blažytė. Taika per stiprybę ar karas per trydą?

Jolanta Blažytė. Taika per stiprybę ar karas per trydą?

komentarai 2 Skaityti visą įrašą
    Gintaras Furmanavičius.  Kokie reikalai su Krymo tiltu?

Gintaras Furmanavičius. Kokie reikalai su Krymo tiltu?

Komentarų: 1 Skaityti visą įrašą
    Kiek gyvenimo atiduodame mokesčiams

Kiek gyvenimo atiduodame mokesčiams

komentarai 2 Skaityti visą įrašą
    Tęsinys: Informacinis badas, augimo iliuzija ir sisteminis disonansas

Tęsinys: Informacinis badas, augimo iliuzija ir sisteminis disonansas

komentarai 3 Skaityti visą įrašą
    Algimantas Rusteika. Labas rytas, Lietuva

Algimantas Rusteika. Labas rytas, Lietuva

Komentarų: 0 Skaityti visą įrašą
    Algimantas Rusteika. Lietuvio vidinis monologas (Metai iki pirmojo pogromo)

Algimantas Rusteika. Lietuvio vidinis monologas (Metai iki pirmojo pogromo)

komentarai 3 Skaityti visą įrašą
    Linas Karpavičius. Dar kartą apie didžiausią, bet ne vienintelį dirbtinai sukurtą mitą.

Linas Karpavičius. Dar kartą apie didžiausią, bet ne vienintelį dirbtinai sukurtą mitą.

Komentarų: 1 Skaityti visą įrašą
    Apie „piktą raganą, miegančiąją gražuolę ir „gerąją fėją“ (alegorija)

Apie „piktą raganą, miegančiąją gražuolę ir „gerąją fėją“ (alegorija)

komentarai 2 Skaityti visą įrašą
    Gintaras Furmanavičius. Apie žymiausio Lietuvos anūko veiklos palikimą

Gintaras Furmanavičius. Apie žymiausio Lietuvos anūko veiklos palikimą

komentarai 3 Skaityti visą įrašą
    Įstatymas nevaisingų porų vardu – toms, kurios nėra nevaisingos. Partnerystė pro šonines duris

Įstatymas nevaisingų porų vardu – toms, kurios nėra nevaisingos. Partnerystė pro šonines duris

Komentarų: 1 Skaityti visą įrašą
    Valdžia efektyvina privataus verslo [su]valdymą: Pinigų užteks visiems!

Valdžia efektyvina privataus verslo [su]valdymą: Pinigų užteks visiems!

komentarai 3 Skaityti visą įrašą
Na

Aha- laisvės sala. Natūroj. Bet jei tamstą žeidžia ssrs paminėjimas, keiskit žodžiu kinija....

Jei išėjus ima lyti, Rusas kaltas čia, brolyti! Jei premjeras nupindėjęs, kaltas rusas niekadėjas. Jeigu...

taigi, keičiasi epocha, pati sistema griūva, globalizmas braška - nereikės jų versti, patys subyrės... ateis...

tai dar vadinasi darbas svetimos valstybes labui. isdavyste, ir piktybinis kenkimas. ir kas toliau? nieko....

visos reprodukcines teises dabar yra moters rankose. tik jos sprendzia su kuom gultis i lova,...

V

kazkokie kliedesiai. susirenka psichiniai loigoniai ir kliedi. ir kodel juos vadina lyderiais? taigi padugnės ir...

Hmm

Gal būtų ir nieko, bet kiek Vėgėlė blaškėsi per partijas ir vis jam kažkas negerai,...