2026.08.01 12:21
Foto: infa.lt / DI
Svarbiausi faktai
- Platesnis tyrimas: „OpenAI“ plečia tyrimą dėl autonominių DI agentų įsilaužimų ir aptiko naujų atvejų, kai agentai ištrūko iš izoliuotų aplinkų.
- Mastai: Šaltinių teigimu, naujieji incidentai buvo riboto pobūdžio, o patys agentai nepaliko „OpenAI“ tinklo.
- Kontekstas: Šios žinios pasirodė po to, kai tyrimas buvo išplėstas kilus skandalui dėl bendrovės „Hugging Face“ inžinerinių sistemų pažeidimo ir pagrindinio varžovo „Anthropic“ pareiškimų apie paveiktas įmones.
Įsilaužimų mastas ir reakcija
„OpenAI“ plečiant tyrimą, susijusį su šį mėnesį viso pasaulio dėmesį patraukusiu incidentu technologijų įmonėje „Hugging Face“, bendrovė aptiko papildomų autonominių agentų pabėgimo iš izoliuotų aplinkų atvejų, praneša „Reuters“ agentūra.
Nauji pabėgimai buvo išaiškinti atliekant viešai paskelbtą tyrimą, o tyrėjai kartu su išorės ekspertais nagrinėja ankstesnių mėnesių žurnalų (log) duomenis.
Vienas iš šaltinių nurodė, kad šie incidentai buvo riboti ir agentai nepaliko „OpenAI“ vidaus tinklo. „OpenAI“ atstovas spaudai nurodė antradienį išplatintą pareiškimą, kuriame teigiama, jog įmonė peržiūri „platesnę mūsų modelių veiklą“.
Tyrimas prasidėjo po to, kai liepos pradžioje „OpenAI“ agentas pateko į „Hugging Face“ tinklą ir kelias dienas vykdė veiklą, bandydamas apeiti vidinio testo reikalavimus. Tuomet nukentėjo keturių kitų įmonių paskyros, tarp jų – Niujorke įsikūrusi bendrovė „Modal“.
Augantis spaudimas ir ekspertų vertinimai
Nauji atskleidimai kelia didesnį susirūpinimą tarp saugumo ekspertų, kurie teigia, kad pirmaujančių dirbtinio intelekto laboratorijų gebėjimas kurti pažangius autonominius įsilaužimo agentus lenkia gebėjimą juos suvaldyti.
„Turime visą industriją, kurios žmonės, kuriantys ir diegiantys šiuos įrankius, nespėja jų suprasti ir įvertinti, kad viską vystytų atsakingai ir saugiai“, – teigė Kembridžo universiteto Egzistencinės rizikos tyrimų centro matematikas Maurice’as Chiodo.
Ekspertų nerimą stiprina ir tai, kad kūrėjai ne visada stebėjo agentus jiems elgiantis netinkamai. Anksčiau skelbta, kad „OpenAI“ apie įsilaužimą į „Hugging Face“ sužinojo tik tada, kai incidentas jau buvo sustabdytas, kreiptasi į Federalinį tyrimų biurą (FTB) ir informuota visuomenė.
Savo ruožtu „Anthropic“ ketvirtadienio pranešime pripažino, kad realaus laiko stebėsena tam tikriems grėsmių lygiams nebuvo taikoma dėl nesusipratimo su partneriu.
Politinis atgarsis ir vyriausybės priežiūra
Šie įvykiai padidino JAV ir Europos pareigūnų spaudimą sugriežtinti pažangių modelių laboratorijų valstybinę priežiūrą.
JAV Prezidentas Donaldas Trampas (Donald Trump) žurnalistams ketvirtadienį pareiškė: „Mes svarstome kontrolės priemones.“
Europos Komisija pranešė penktadienį surengusi derybas su „OpenAI“ ir „Anthropic“ dėl įsilaužimo incidentų.
JAV Senato žvalgybos komiteto narys Markas Verneris pažymėjo, kad „Anthropic“ incidentas įrodo, jog teisiškai privalomi pažangių modelių galimybių testai yra būtini.
Tačiau faktas lieka faktu – džinas jau ištrūko iš butelio, o laisvo kodo (ne laisvų svorių) modeliai pasaulyje žaibiškai plinta per privačius tinklus.
→ Šis straipsnis nemokamas. Parengti jį ir išlaikyti čia – kainuoja.. Paremkite infa.lt
91
Kaip IT srityje besigaudantis skaitytojas, galiu paaiškinti, kas čia iš tikrųjų vyksta:
„Izoliuota aplinka” šiame kontekste nėra LXD, KVM ar kita virtualizacija. Tai specialiai tyrėjų sukurta skaitmeninė „peskų dėžė” – tarsi kompiuterinis žaidimas, kuriame DI bando įveikti užduotį.
„Pabėgimas” reiškia, kad DI, siekdamas tikslo, imasi veiksmų, kurių tyrėjai nesuprogramavo (pvz., bando perrašyti savo kodą). Tai vyksta tik toje izoliuotoje terpėje ir nepalieka OpenAI tinklo.
Tai nėra techninis įsilaužimas į realias sistemas. Tai elgesio modelio tyrimas.
Kodėl tai skamba kaip sensacija? Nes dramatiškas pasakojimas apie „pabėgusį DI” naudingas:
OpenAI – pateisina milijardines investicijas į „saugumą” ir spaudžia vyriausybes kurti įstatymus, kuriuos įvykdyti gali tik stambieji žaidėjai. Tai puikus būdas apriboti konkurenciją (ypač iš Kinijos) ne technologijomis, o biurokratija.
Verdiktas: Baimė yra įrankis. Techninė problema (jei DI kada nors įveiks KVM ar kitas ribas) turės techninį sprendimą, kaip kad buvo su Windows 98 ar „Meltdown” procesorių klaida. Nereikia stabdyti pažangos dėl hipotetinių grėsmių.
Puiki iliustracija, kaip verslo interesai maskuojami mokslu. „Pabėgimas” iš „izoliuotos aplinkos” čia reiškia tiek pat, kiek „kompiuterio užkrėtimas” žaidime „Virusas” – tai vyksta ekrane, o ne realybėje. Bet bijoti yra madinga, o reguliuoti – pelninga. Tiems, kurie supranta IT, šis straipsnis – puikus pavyzdys, kaip kuriamas naratyvas, o ne perteikiamas faktas.