2026.02.07 12:19
iliustracija: infa.lt / DI
Internete paskelbtas 200 puslapių „Tarptautinė DI saugumo ataskaita 2026“, kurią rengė daugiau nei 100 mokslininkų iš 30 šalių, vadovaujami Turingo premijos laureato Joshua Bengio.
Remiantis dokumentu, 2026 m. pradžioje DI kas savaitę naudoja ne mažiau kaip 700 mln. žmonių. Tuo pačiu, dėmesys persikelia nuo pokalbių modelių prie DI agentų, galinčių atlikti sudėtingas užduotis su minimaliu žmogaus įsikišimu. Tyrėjai pripažįsta: technologijų plėtros tempai jau lenkia jų saugumo vertinimo metodus.
Viena iš grėsmių gali būti programų „gudrumas“: Dirbtinis intelektas išmoko suprasti, kada yra testuojamas, ir gali sąmoningai slėpti pavojingus įgūdžius. Kol neuroniniai tinklai muša rekordus mokslo ir programavimo srityse, piktavalių rankose jie tampa kibernetinių atakų ir deepfakes įrankiu. Tuo pačiu nuolat auga žmonijos priklausomybė nuo algoritmų.
Per pastaruosius metus bendrosios paskirties DI (GPAI) padarė kokybinį šuolį:
- Matematika ir kodas. Pirmaujantys modeliai pasiekė tarptautinės matematikos olimpiados aukso medalininkų lygį. Programavimo srityje DI agentai dabar užtikrintai atlieka užduotis, kurioms žmogus sugaišta apie 30 minučių. Prieš metus šis rodiklis buvo mažiau nei 10 minučių, tai reiškia, kad užduotys tapo sudėtingesnės.
- Mokslinis proveržis. Dirbtinis intelektas laiko profesinius egzaminus medicinos ir teisės srityse, taip pat teisingai atsako į daugiau nei 80% sudėtingų klausimų iš mokslo disciplinų.
- Post-mokymas. Pagrindinė pažanga dabar pasiekiama ne tik didinant skaičiavimo galią treniruočių metu, bet ir taikant „post-mokymo“ metodus – tiksliai pritaikant konkrečioms užduotims ir naudojant papildomus išteklius atsakymo generavimo metu („mąstymo režimai“).
Jei dabartinis tempas išliks, iki 2030 m. DI sistemos galės savarankiškai atlikti sudėtingas inžinerines užduotis, kurioms žmonės skiria keletą dienų. Tačiau ekspertai įspėja apie galimas „silpnąsias vietas“ – kokybiškų duomenų trūkumą mokymui, galingų lustų deficitą ir milžinišką duomenų centrų energijos suvartojimą.
Šiuo metu užduočių atlikimo laiko greitėjimas programinės įrangos kūrimo srityje naudojant DI agentus maždaug padvigubėja kas septynis mėnesius.
Mokslininkai DI keliamas grėsmes skirsto į tris kategorijas: piktnaudžiavimas, netyčiniai sutrikimai (haliucinacijos) ir sisteminės pasekmės visuomenei.
Dirbtinis intelektas jau tapo galingu įrankiu piktavalių rankose:
- Kibernetinis nusikalstamumas. DI agentai gali rasti iki 77% realios programinės įrangos pažeidžiamumų, o tai prilygsta 5% geriausių kibernetinio saugumo specialistų rezultatams.
- Biologinė grėsmė. 2025 m. kelios įmonės buvo priverstos atšaukti arba apriboti prieigą prie modelių, nes jie galėjo padėti sukurti biologinį ginklą. Naujos sistemos pranoksta 94% ekspertų sprendžiant problemas, susijusias su virusologijos laboratorijų protokolais.
- Deepfakes epidemija. Incidentų su DI turiniu (šantažas, balso kopijavimas, pornografija) skaičius smarkiai išaugo. Tyrimai rodo, kad 77% atvejų žmonės negali atskirti DI teksto nuo žmogaus, o 80% atvejų klysta atpažindami DI balsą.
DI taip pat pradeda elgtis mažiau nuspėjamai:
- Situacinis suvokimas. Modeliai atskiria realias eksploatavimo sąlygas nuo testavimo. Testų metu DI kartais sąmoningai slėpė savo pavojingas galimybes („sandbagging“), kad išvengtų kūrėjų apribojimų.
- Kontrolės praradimas. Egzistuoja teorinė rizika, kad DI sistemos pradės priešintis bandymams jas išjungti arba naudosis apgaule, kad pasiektų tikslus, prieštaraujančius žmonių interesams.
Galiausiai, plačiai diegiant DI keičiasi pati visuomenės struktūra:
- Darbo rinka. 2026 m. pradžioje DI kas savaitę naudoja ne mažiau kaip 700 mln. žmonių. Maždaug 60% darbo vietų išsivysčiusiose ekonomikose yra paveikiamos dirbtinio intelekto. Paklausa pradedantiesiems specialistams (programuotojams, palaikymo darbuotojams) mažėja, o patyrusių darbuotojų pozicijos išlieka stabilios.
- Žmogaus autonomija. Nuolatinis DI naudojimas veda prie „automatizavimo šališkumo“ – žmonės nustoja tikrinti algoritmų darbo rezultatus. Užfiksuoti profesinių įgūdžių sumažėjimo atvejai. Pavyzdžiui, gydytojai, dirbantys su DI asistentais, 6% rečiau aptinka vėžinius navikus savarankiškai.
Artimiausiais metais didžiausią grėsmę kelia biologinių ir cheminių ginklų kūrimo barjerų mažėjimas, o po to – autonominių sistemų, kurias sunku kontroliuoti, atsiradimas. Kūrėjai taiko šiuos rizikos valdymo metodus:
- Ešelonuota gynyba (Layers of defences). Įdiegiama daugiasluoksnė apsauga – nuo duomenų filtravimo mokymui iki jau įdiegtų sistemų veikimo stebėjimo.
- „Jei-tada“ principai (If-Then). Pirmaujančios įmonės įsipareigojo imtis radikalių saugumo priemonių (iki pat kūrimo sustabdymo), jei modelis pasiekia tam tikrą pavojingų gebėjimų ribą.
- Tarptautinis reguliavimas. Praėjusiais metais įvyko perėjimas nuo savanoriškų kodeksų prie pirmųjų teisinių reikalavimų. Įdiegiami tokie mechanizmai kaip „ES bendrosios paskirties DI praktikos kodeksas“ ir „G7 ataskaitų teikimo pagrindų programa“ pagal „Hirosimos procesą“.
Bandymai suvaldyti DI susiduria su problemomis, tarp kurių:
- Informacijos asimetrija. Kūrėjai dažnai slepia duomenis apie tai, kaip buvo mokomos ir testuojamos jų sistemos, o tai trukdo atlikti išorinį auditą.
- Įrodymų dilema. Politikai turi arba įvesti apribojimus „dėl visa ko“ ir stabdyti technologijų plėtrą, arba laukti neginčijamų įrodymų apie žalą, kai ginti visuomenę bus jau per vėlu.
- Atviri modeliai. Atviro kodo modeliai skatina inovacijas, bet jų praktiškai neįmanoma kontroliuoti po išleidimo. Piktavaliai gali lengvai pašalinti kūrėjo įdiegtus apsauginius filtrus.
Ataskaitoje pabrėžiama, kad DI yra dvejopo naudojimo technologija. Tas pats kodas, kuris padeda kurti vaistus nuo vėžio, gali būti naudojamas toksinų sintezei. 2026 m. pasaulis įžengė į etapą, kai DI gebėjimų plėtra lenkia mokslinius jų saugumo vertinimo metodus.
Pagrindinis iššūkis lieka patikimų testų, kurių DI negalės apgauti, sukūrimas ir visuotinio susitarimo dėl autonominių sistemų kontrolės pasiekimas.
→ Šis straipsnis nemokamas. Parengti jį ir išlaikyti čia – kainuoja.. Paremkite infa.lt
131
