infa.lt

Ar galime pasitikėti tuo, ką matome ir girdime? – Kaip hakeriai išnaudoja dirbtinio intelekto galimybes

22 vasario
09:30 2022

Dirbtinio intelekto tema yra apsupta rinkodaros triukšmo ir joje gausu neaiškių terminų: neuroniniai tinklai, mašininis mokymasis, gilusis mokymasis. Tačiau ne visi gali aiškiai paaiškinti, koks mokymasis vis dar yra mašininis mokymasis, o koks – jau gilus. Kol technologijų mėgėjai diskutuoja apie „Tesla“ autopilotą ir stebi „Siri“ bendravimą su „Alisa“, tamsiojoje pusėje aktyviai stengiamasi įtraukti dirbtinį intelektą į sukčiavimo schemas.

Michailas Kondrašinas, „Trend Micro“ technikos vadovas Rusijoje ir NVS šalyse, pasakoja apie tai, kokios dirbtinio intelekto galimybės jau naudojamos kibernetiniams nusikaltimams ir kokia mūsų laukia ateitis.

Kas yra kas AI pasaulyje

Prieš kalbėdami apie nusikalstamą AI naudojimą, panagrinėkime terminus.

Dirbtinis intelektas (AI) – tai technologija, kurios pagalba kompiuterinė sistema gali imituoti analogiškoje situacijoje atsidūrusio žmogaus veiksmus. AI atsiradimo data laikomi 1956 m., kai Dartmuto seminare šią kryptį paskelbė Marvinas Minskis, Claude’as Shannonas, Johnas McCarthy ir Nathanielis Rochesteris. Paprastai į AI sritį patenka sistemos, atliekančios žmogaus funkcijas – kalbos ir vaizdo atpažinimas, sprendimų ir tarpusavio ryšių paieška, mokymasis.

Pagrindinis skirtumas tarp AI ir kitų kompiuterinių sistemų yra numatyto sprendimo nebuvimas: AI gali skirtingai reaguoti į tuos pačius įvesties duomenis. Beveik neįmanoma suprasti, kokiu būdu ir kuo remdamasis AI priėjo vienos ar kitos išvados.

Yra daug būdų, kaip įgyvendinti AI, pavyzdžiui, remiantis keliomis taisyklėmis arba ekspertų sistemomis. Nuo devintojo dešimtmečio mašininio mokymosi (Machine Learning, ML) technologija tapo labiausiai paplitusia. Mašininis mokymasis reiškia bet kokią techniką, leidžiančią sistemoms „mokytis“ be aiškaus tokio elgesio programavimo.

Mašininio mokymosi prasmė ta, kad kompiuterinė sistema kaip įvestį gauna didelį duomenų rinkinį ir informaciją apie tai, kuri iš jų turi norimas charakteristikas. Tokie duomenys gali būti, pavyzdžiui, informacija apie finansines operacijas, taip pat apie tai, kurios iš jų yra susijusios su sukčiavimu.

Sistema duomenis apdoroja pagal specialų algoritmą, juos kaupdama. Tada visi sprendimai priimami pagal sukauptas „žinias“ – ML sistemos, kaip ir žmogaus smegenys, mokymosi procese sukuria daug tarpusavio sąsajų.

Siekiant padidinti mašininio mokymosi efektyvumą, sukauptų duomenų masyvai ir jų apdorojimas pradėti vykdyti keliais lygmenimis, suformuojant ištisus sąlyginių „neuronų“ tinklus – žmogaus smegenis imituojančius sluoksnius. Ši technologija vadinama „giliuoju mokymusi“ – Deep Learning, DL. Konkrečios giluminio mokymosi sistemų realizacijos paprastai vadinamos neuroniniais tinklais.

Dabartinės kibernetinės grėsmės, susijusios su AI

Ištyrę šešėlinius forumus nustatėme, kad kibernetiniai nusikaltėliai jau aktyviai naudojasi AI. Pažvelkime į kai kurias iš šių sričių.

Dipfeikai

Vienas ryškiausių būdų, kaip piktnaudžiaujama AI, tapo „Deepfakes“. Šis terminas reiškia neuroninių tinklų naudojimą, siekiant sukurti netikrą garso ir vaizdo turinį, kurio beveik neįmanoma atskirti nuo tikro.

Ši technologija tampa galingu ginklu šiuolaikiniuose informaciniuose karuose, dėl kurių žmogus nebegali pasikliauti tuo, ką mato ar girdi. O interneto, socialinių tinklų ir momentinių žinučių programų pagalba, klastotės gali greitai išplisti daugiamilijoninėse auditorijose per kelias valandas.

Pavojingiausios padirbinėjimo pasekmės:
• politikų ir visuomenės veikėjų reputacijos griovimas;
• žmonių trolinimas, priekabiavimas ir žeminimas internete;
• šantažas, turto prievartavimas ir sukčiavimas, dokumentų klastojimas;
• elektroninių įrodymų klastojimas ar manipuliavimas nusikalstamų veikų tyrimuose;
• finansų rinkų veiklos trikdymas;
• dezinformacijos skleidimas ir manipuliavimas viešąja nuomone;
• smurto aktų ir socialinių protestų kurstymas;
• Sumažėjęs pasitikėjimas žiniasklaida.

„Deepfakes“ išpopuliarėjo 2017 m. pabaigoje, kai anoniminis „Reddit“ vartotojas paskelbė dirbtinio intelekto programos „FakeApp” pagalba  sukurtus pornografinius filmus, kuriuose moterų kūnams buvo priskirti Taylor Swift, Scarlett Johansson, Aubrey Plaza, Gal Gadot ir Maisie Williams veidai.

Kapčos nulaužimas (Cracking captcha)

Captcha (CAPTCHA, Completely Automated Public Turing test to tell Computers and Humans Apart, viešasis Turingo testas) yra kompiuterinis testas, kurį lengva išlaikyti žmogui, bet sunku arba neįmanoma kompiuteriui.

Svetainėse naudojami įvairūs captcha variantai, kad būtų išvengta daugybinių pasikartojančių paskyrų kūrimo, naujų komentarų ar atsakymų pridėjimo forumuose be žmogaus įsikišimo. Captcha apėjimo sprendimo sistemų sukūrimas leis kibernetiniams nusikaltėliams automatizuotai piktnaudžiauti paslaugomis.

Kriminaliniuose forumuose jau siūloma XEvil programinė įranga, įdiegta neuroninių tinklų pagrindu ir sėkmingai nulaužianti daugybę captcha variantų. Įrankis naudoja nuo 80 iki 100 procesoriaus gijų. Tokio instrumento nuomos kaina yra tik 4 tūkstančiai rublių per savaitę arba 10 tūkstančių rublių (apie 106 eur) per mėnesį.

Spamo filtrų ir ntivirusinės programinės įrangos apėjimas

Nauju kibernetinės erdvės konfrontacijos etapu nusikaltėliams ir saugumo sprendimų kūrėjams tapo AI įvedimas. Remdamiesi sėkminga patirtimi diegiant neuroninius tinklus kenkėjiškų programų atpažinimui, kibernetiniai piktadariai pradėjo naudoti gilų mokymąsi, kad sukurtų būdus, kaip pasislėpti nuo aptikimo.

Dar 2015 metais buvo demonstruojamas neuroninis tinklas, lenkiantis šiukšlių filtrus, kuris naudojo generatyvinę gramatiką, kad sukurtų el. pašto žinutes, kurios beveik nesiskiria nuo tų, kurias rašo tikri žmonės.

2017 m. per Hat USA17 konferenciją mokslininkai demonstravo, kaip naudoti mašininio mokymosi metodus, kad būtų galima vykdyti verslo el. pašto kompromitacines (Business Email Compromise, BEC) atakas. Jų sukurta technologija naudoja nutekėjusius duomenis ir viešą informaciją iš socialinių tinklų, kad sukurtų ataką, kuri labai tikėtina, kad bus sėkminga.

Toje pačioje konferencijoje buvo pristatytas AVPASS įrankis, leidžiantis užmaskuoti Android kenkėjiškas programas kaip „padorią” programą. AVPASS pasiekė nulinį aptikimo rodiklį internetinėje kenkėjiškų programų analizės paslaugoje „VirusTotal“ su daugiau nei 5 000 „Android“ kenkėjiškų programų pavyzdžių.

Kitas kenkėjiško AI naudojimo pavyzdys buvo įrankis, kuris naudoja mašininį mokymąsi, kad apgautų AI pagrįstą virusų detektorių. Kenkėjiškoje programoje įmontuotas neuronas atakoms naudoti atrenka Windows funkcijas, kurių neaptinka detektorius, tačiau kartu suteikia nusikaltėliams būtiną funkcionalumą. Tuo pačiu metu antivirusinis ML variklis naudojamas rezultato efektyvumui įvertinti ir kitam kenkėjiškų programų mokymo ciklui pradėti.

Slaptažodžio atspėjimas

Slaptažodžio atspėjimo įrankių, tokių kaip „HashCat“ ir „John the Ripper“, principas yra tas, kad jie generuoja kitą slaptažodį pagal nurodytas taisykles, išskaičiuoja jo kešą ir palygina jį su tikrojo slaptažodžio kešu. Daugeliu atvejų slaptažodžiams generuoti naudojamas dažnai naudojamų slaptažodžių žodynas, kurio pagrindu formuojamos įvairios parinktys. Pavyzdžiui, slaptažodžio „slaptažodis“ variantai gali būti „password12345“ arba „p@ssw0rd“.

Siekiant padidinti šio proceso efektyvumą, galima naudoti generatyvius tinklus (Generative adversarial network, GAN), parengtus naudojant didelį duomenų rinkinį nuo nutekėjusių slaptažodžių duomenų. Toks tinklas generuos variacijas, atitinkančias statistinį pasiskirstymą, o tai gali žymiai pagreitinti procesą.

Vienas iš įrankių, įgyvendinančių šią techniką, buvo paminėtas įsilaužėlių forumuose 2020 m. vasario mėn. Įraše buvo nuoroda į „GitHub“ saugyklą, kurioje buvo paskelbta slaptažodžių atspėjimo programinė įranga, parengta naudojant 1,4 mlrd. įskaitinių duomenų.

2019 m. pristatytas „PassGAN“ naudoja GAN, kad ištirtų statistinį pavogtų slaptažodžių pasiskirstymą, ir generuoja aukštos kokybės variantus, padidindamas greitį nuo 51 iki 73%, lyginant su „HashCat“.

Įsiskverbimas į sistemas

AI naudojimas pagerina tradicinius įsilaužimo metodus, sukurdamas nenuspėjamus atakų vykdymo būdus. Vienas iš įrankių, įgyvendinančių šią strategiją, buvo DeepHack įrankis, pristatytas DEFCON 2017, įgyvendintas neuroninio tinklo pagrindu.

„DeepHack“ leidžia atlikti tinklo įsiskverbties testą (pentest) nerenkant išankstinės informacijos apie sistemą. Įrankis naudoja neuroninį tinklą, kuris savarankiškai generuoja SQL įvedimo komandas ir leidžia visiškai automatizuoti duomenų bazių įsilaužimo į svetaines procesą.

Panašaus pobūdžio laikosi ir DeepExploit įrankis, kuris yra visiškai automatizuota ML pagrindu veikianti įsiskverbimo testavimo sistema. Norėdami sukurti ir išbandyti eksploitus, „DeepExploit“ sąveikauja su gerai žinoma „Metasploit“ platforma, o mokymui naudojamas sustiprinimo algoritmas, vadinamas Asynchronous Actor-Critic Agents (AC3), kuris leidžia ištirti pažeidžiamumo išnaudojimo sąlygas prieš jį išbandant tiksliniame serveryje.

Prognozės ir rekomendacijos

Didelis AI panaudojimo nusikaltimams efektyvumas padidino šių priemonių populiarumą kibernetinės nusikalstamos veikos aplinkoje. Tyrėjai tikisi, kad sparčiai augs ir kibernetinių atakų, naudojant neuroninius tinklus, įrankių, ir tiesioginis mašininio mokymosi įdiegimas kenkėjiškose programose.

Bandymai riboti neuroninių tinklų plitimą ar reguliuoti jų naudojimą valstybiniu lygmeniu atrodo neefektyvūs ir greičiau gali sukelti priešingą efektą, kai teisėtos įmonės dėl teisinių apribojimų negalės naudotis pažangiomis technologijomis, o nusikaltėliai aktyviai diegs juos į savo praktiką.

Labiau perspektyviu sprendimu būtų falsifikacijų aptikimo technologijų plėtra ir dirbtinio intelekto panaudojimo aptikimo metodų tobulinimas, siekiant automatiškai blokuoti apgaulingus išteklius, netikras nuotraukas, garso ir vaizdo medžiagą.

Itin svarbu kuo plačiau informuoti ir viešai aptarti problemą, kuri sukurs kritiškesnį suvokimą ir sumažins klastotės įtakos socialiniams procesams lygį.

PAREMKITE mus savo 1,2 proc. GPM, kas jums nieko papildomai nekainuos. Ačiū labai.

        → Naujienlaiškis

Visa naujienų juosta >>

žiūrėjo 196

Žymos:

0 Atsiliepimų

Rašyti Atsiliepimą


Taip pat skaitykite:

Naujienlaiškio Prenumerata


Paremti infa.lt 1,2 proc GPM

Apklausa

Ar pritariate, kad opozicijos kandidatai mestų burtus, katras vienas iš jų liks prezidento rinkimuose?


Rodyti rezultatus

Leidžiama ... Leidžiama ...

žvygiui nėra vietos Lietuvoje...

Nu, bl, nesu matęs individo su tokiu durnu snukiu.Durnumas iš jo fontanu trykšta....

Tai pirma gal baikit išlaidauti .Ministerijų miestelio statyba,stadiono statyba ,kodėl neklausiat ar reikalinga šiuo metu...

Tai ką siūlote? Didinti investicijas kai visi šaukia bus karas.Gal pamiršote kaip bankai bankrutuoja.Taip ir...

Sunku jums vasarai...!...