• Parama infa.lt veiklai
  • Apie infa.lt
  • Rinkmenos
  • Galerija

infa.lt

Ar galime pasitikėti tuo, ką matome ir girdime? – Kaip hakeriai išnaudoja dirbtinio intelekto galimybes

Ar galime pasitikėti tuo, ką matome ir girdime? – Kaip hakeriai išnaudoja dirbtinio intelekto galimybes

22 vasario
09:30 2022

Dirbtinio intelekto tema yra apsupta rinkodaros triukšmo ir joje gausu neaiškių terminų: neuroniniai tinklai, mašininis mokymasis, gilusis mokymasis. Tačiau ne visi gali aiškiai paaiškinti, koks mokymasis vis dar yra mašininis mokymasis, o koks – jau gilus. Kol technologijų mėgėjai diskutuoja apie „Tesla“ autopilotą ir stebi „Siri“ bendravimą su „Alisa“, tamsiojoje pusėje aktyviai stengiamasi įtraukti dirbtinį intelektą į sukčiavimo schemas.

Michailas Kondrašinas, „Trend Micro“ technikos vadovas Rusijoje ir NVS šalyse, pasakoja apie tai, kokios dirbtinio intelekto galimybės jau naudojamos kibernetiniams nusikaltimams ir kokia mūsų laukia ateitis.

Kas yra kas AI pasaulyje

Prieš kalbėdami apie nusikalstamą AI naudojimą, panagrinėkime terminus.

Dirbtinis intelektas (AI) – tai technologija, kurios pagalba kompiuterinė sistema gali imituoti analogiškoje situacijoje atsidūrusio žmogaus veiksmus. AI atsiradimo data laikomi 1956 m., kai Dartmuto seminare šią kryptį paskelbė Marvinas Minskis, Claude’as Shannonas, Johnas McCarthy ir Nathanielis Rochesteris. Paprastai į AI sritį patenka sistemos, atliekančios žmogaus funkcijas – kalbos ir vaizdo atpažinimas, sprendimų ir tarpusavio ryšių paieška, mokymasis.

Pagrindinis skirtumas tarp AI ir kitų kompiuterinių sistemų yra numatyto sprendimo nebuvimas: AI gali skirtingai reaguoti į tuos pačius įvesties duomenis. Beveik neįmanoma suprasti, kokiu būdu ir kuo remdamasis AI priėjo vienos ar kitos išvados.

Yra daug būdų, kaip įgyvendinti AI, pavyzdžiui, remiantis keliomis taisyklėmis arba ekspertų sistemomis. Nuo devintojo dešimtmečio mašininio mokymosi (Machine Learning, ML) technologija tapo labiausiai paplitusia. Mašininis mokymasis reiškia bet kokią techniką, leidžiančią sistemoms „mokytis“ be aiškaus tokio elgesio programavimo.

Mašininio mokymosi prasmė ta, kad kompiuterinė sistema kaip įvestį gauna didelį duomenų rinkinį ir informaciją apie tai, kuri iš jų turi norimas charakteristikas. Tokie duomenys gali būti, pavyzdžiui, informacija apie finansines operacijas, taip pat apie tai, kurios iš jų yra susijusios su sukčiavimu.

Sistema duomenis apdoroja pagal specialų algoritmą, juos kaupdama. Tada visi sprendimai priimami pagal sukauptas „žinias“ – ML sistemos, kaip ir žmogaus smegenys, mokymosi procese sukuria daug tarpusavio sąsajų.

Siekiant padidinti mašininio mokymosi efektyvumą, sukauptų duomenų masyvai ir jų apdorojimas pradėti vykdyti keliais lygmenimis, suformuojant ištisus sąlyginių „neuronų“ tinklus – žmogaus smegenis imituojančius sluoksnius. Ši technologija vadinama „giliuoju mokymusi“ – Deep Learning, DL. Konkrečios giluminio mokymosi sistemų realizacijos paprastai vadinamos neuroniniais tinklais.

Dabartinės kibernetinės grėsmės, susijusios su AI

Ištyrę šešėlinius forumus nustatėme, kad kibernetiniai nusikaltėliai jau aktyviai naudojasi AI. Pažvelkime į kai kurias iš šių sričių.

Dipfeikai

Vienas ryškiausių būdų, kaip piktnaudžiaujama AI, tapo „Deepfakes“. Šis terminas reiškia neuroninių tinklų naudojimą, siekiant sukurti netikrą garso ir vaizdo turinį, kurio beveik neįmanoma atskirti nuo tikro.

Ši technologija tampa galingu ginklu šiuolaikiniuose informaciniuose karuose, dėl kurių žmogus nebegali pasikliauti tuo, ką mato ar girdi. O interneto, socialinių tinklų ir momentinių žinučių programų pagalba, klastotės gali greitai išplisti daugiamilijoninėse auditorijose per kelias valandas.

Pavojingiausios padirbinėjimo pasekmės:
• politikų ir visuomenės veikėjų reputacijos griovimas;
• žmonių trolinimas, priekabiavimas ir žeminimas internete;
• šantažas, turto prievartavimas ir sukčiavimas, dokumentų klastojimas;
• elektroninių įrodymų klastojimas ar manipuliavimas nusikalstamų veikų tyrimuose;
• finansų rinkų veiklos trikdymas;
• dezinformacijos skleidimas ir manipuliavimas viešąja nuomone;
• smurto aktų ir socialinių protestų kurstymas;
• Sumažėjęs pasitikėjimas žiniasklaida.

„Deepfakes“ išpopuliarėjo 2017 m. pabaigoje, kai anoniminis „Reddit“ vartotojas paskelbė dirbtinio intelekto programos „FakeApp“ pagalba  sukurtus pornografinius filmus, kuriuose moterų kūnams buvo priskirti Taylor Swift, Scarlett Johansson, Aubrey Plaza, Gal Gadot ir Maisie Williams veidai.

Kapčos nulaužimas (Cracking captcha)

Captcha (CAPTCHA, Completely Automated Public Turing test to tell Computers and Humans Apart, viešasis Turingo testas) yra kompiuterinis testas, kurį lengva išlaikyti žmogui, bet sunku arba neįmanoma kompiuteriui.

Svetainėse naudojami įvairūs captcha variantai, kad būtų išvengta daugybinių pasikartojančių paskyrų kūrimo, naujų komentarų ar atsakymų pridėjimo forumuose be žmogaus įsikišimo. Captcha apėjimo sprendimo sistemų sukūrimas leis kibernetiniams nusikaltėliams automatizuotai piktnaudžiauti paslaugomis.

Kriminaliniuose forumuose jau siūloma XEvil programinė įranga, įdiegta neuroninių tinklų pagrindu ir sėkmingai nulaužianti daugybę captcha variantų. Įrankis naudoja nuo 80 iki 100 procesoriaus gijų. Tokio instrumento nuomos kaina yra tik 4 tūkstančiai rublių per savaitę arba 10 tūkstančių rublių (apie 106 eur) per mėnesį.

Spamo filtrų ir ntivirusinės programinės įrangos apėjimas

Nauju kibernetinės erdvės konfrontacijos etapu nusikaltėliams ir saugumo sprendimų kūrėjams tapo AI įvedimas. Remdamiesi sėkminga patirtimi diegiant neuroninius tinklus kenkėjiškų programų atpažinimui, kibernetiniai piktadariai pradėjo naudoti gilų mokymąsi, kad sukurtų būdus, kaip pasislėpti nuo aptikimo.

Dar 2015 metais buvo demonstruojamas neuroninis tinklas, lenkiantis šiukšlių filtrus, kuris naudojo generatyvinę gramatiką, kad sukurtų el. pašto žinutes, kurios beveik nesiskiria nuo tų, kurias rašo tikri žmonės.

2017 m. per Hat USA17 konferenciją mokslininkai demonstravo, kaip naudoti mašininio mokymosi metodus, kad būtų galima vykdyti verslo el. pašto kompromitacines (Business Email Compromise, BEC) atakas. Jų sukurta technologija naudoja nutekėjusius duomenis ir viešą informaciją iš socialinių tinklų, kad sukurtų ataką, kuri labai tikėtina, kad bus sėkminga.

Toje pačioje konferencijoje buvo pristatytas AVPASS įrankis, leidžiantis užmaskuoti Android kenkėjiškas programas kaip „padorią“ programą. AVPASS pasiekė nulinį aptikimo rodiklį internetinėje kenkėjiškų programų analizės paslaugoje „VirusTotal“ su daugiau nei 5 000 „Android“ kenkėjiškų programų pavyzdžių.

Kitas kenkėjiško AI naudojimo pavyzdys buvo įrankis, kuris naudoja mašininį mokymąsi, kad apgautų AI pagrįstą virusų detektorių. Kenkėjiškoje programoje įmontuotas neuronas atakoms naudoti atrenka Windows funkcijas, kurių neaptinka detektorius, tačiau kartu suteikia nusikaltėliams būtiną funkcionalumą. Tuo pačiu metu antivirusinis ML variklis naudojamas rezultato efektyvumui įvertinti ir kitam kenkėjiškų programų mokymo ciklui pradėti.

Slaptažodžio atspėjimas

Slaptažodžio atspėjimo įrankių, tokių kaip „HashCat“ ir „John the Ripper“, principas yra tas, kad jie generuoja kitą slaptažodį pagal nurodytas taisykles, išskaičiuoja jo kešą ir palygina jį su tikrojo slaptažodžio kešu. Daugeliu atvejų slaptažodžiams generuoti naudojamas dažnai naudojamų slaptažodžių žodynas, kurio pagrindu formuojamos įvairios parinktys. Pavyzdžiui, slaptažodžio „slaptažodis“ variantai gali būti „password12345“ arba „p@ssw0rd“.

Siekiant padidinti šio proceso efektyvumą, galima naudoti generatyvius tinklus (Generative adversarial network, GAN), parengtus naudojant didelį duomenų rinkinį nuo nutekėjusių slaptažodžių duomenų. Toks tinklas generuos variacijas, atitinkančias statistinį pasiskirstymą, o tai gali žymiai pagreitinti procesą.

Vienas iš įrankių, įgyvendinančių šią techniką, buvo paminėtas įsilaužėlių forumuose 2020 m. vasario mėn. Įraše buvo nuoroda į „GitHub“ saugyklą, kurioje buvo paskelbta slaptažodžių atspėjimo programinė įranga, parengta naudojant 1,4 mlrd. įskaitinių duomenų.

2019 m. pristatytas „PassGAN“ naudoja GAN, kad ištirtų statistinį pavogtų slaptažodžių pasiskirstymą, ir generuoja aukštos kokybės variantus, padidindamas greitį nuo 51 iki 73%, lyginant su „HashCat“.

Įsiskverbimas į sistemas

AI naudojimas pagerina tradicinius įsilaužimo metodus, sukurdamas nenuspėjamus atakų vykdymo būdus. Vienas iš įrankių, įgyvendinančių šią strategiją, buvo DeepHack įrankis, pristatytas DEFCON 2017, įgyvendintas neuroninio tinklo pagrindu.

„DeepHack“ leidžia atlikti tinklo įsiskverbties testą (pentest) nerenkant išankstinės informacijos apie sistemą. Įrankis naudoja neuroninį tinklą, kuris savarankiškai generuoja SQL įvedimo komandas ir leidžia visiškai automatizuoti duomenų bazių įsilaužimo į svetaines procesą.

Panašaus pobūdžio laikosi ir DeepExploit įrankis, kuris yra visiškai automatizuota ML pagrindu veikianti įsiskverbimo testavimo sistema. Norėdami sukurti ir išbandyti eksploitus, „DeepExploit“ sąveikauja su gerai žinoma „Metasploit“ platforma, o mokymui naudojamas sustiprinimo algoritmas, vadinamas Asynchronous Actor-Critic Agents (AC3), kuris leidžia ištirti pažeidžiamumo išnaudojimo sąlygas prieš jį išbandant tiksliniame serveryje.

Prognozės ir rekomendacijos

Didelis AI panaudojimo nusikaltimams efektyvumas padidino šių priemonių populiarumą kibernetinės nusikalstamos veikos aplinkoje. Tyrėjai tikisi, kad sparčiai augs ir kibernetinių atakų, naudojant neuroninius tinklus, įrankių, ir tiesioginis mašininio mokymosi įdiegimas kenkėjiškose programose.

Bandymai riboti neuroninių tinklų plitimą ar reguliuoti jų naudojimą valstybiniu lygmeniu atrodo neefektyvūs ir greičiau gali sukelti priešingą efektą, kai teisėtos įmonės dėl teisinių apribojimų negalės naudotis pažangiomis technologijomis, o nusikaltėliai aktyviai diegs juos į savo praktiką.

Labiau perspektyviu sprendimu būtų falsifikacijų aptikimo technologijų plėtra ir dirbtinio intelekto panaudojimo aptikimo metodų tobulinimas, siekiant automatiškai blokuoti apgaulingus išteklius, netikras nuotraukas, garso ir vaizdo medžiagą.

Itin svarbu kuo plačiau informuoti ir viešai aptarti problemą, kuri sukurs kritiškesnį suvokimą ir sumažins klastotės įtakos socialiniams procesams lygį.

Paremkite infa.lt per PayPal, Patreon ar jums patogiu PAREMTI būdu. - Nuoširdžiai ačiū parėmusiems.
žiūrėjo 132

Žymos

0 Atsiliepimų

Rašyti Atsiliepimą


Taip pat skaitykite:

Šeimų Sąjūdis

Naujienų Prenumerata

-

Gauti naujienlaiškį el-paštu

Įrašykite savo pašto adresą:

Paslauga nuo Google FeedBurner

Lasvas žodis
Paremti infa.lt per PayPal

Apklausa

Ar sulauksime pirmalaikių rinkimų?


Rodyti rezultatus

Leidžiama ... Leidžiama ...
    Ramūnas Karbauskis. V. Landsbergis valstybės vadovu pripažintas tik S. Skvernelio demokratų balsų pagalba

Ramūnas Karbauskis. V. Landsbergis valstybės vadovu pripažintas tik S. Skvernelio demokratų balsų pagalba

atsiliepimų 6 Skaityti visą įrašą
    Lietuva, galbūt, tuoj turės dar vieną „prezidentą“, nerinktą, bet valdančiųjų prastumtą buldozeriu

Lietuva, galbūt, tuoj turės dar vieną „prezidentą“, nerinktą, bet valdančiųjų prastumtą buldozeriu

atsiliepimų 9 Skaityti visą įrašą
    Jolanta Blažytė. Super galios

Jolanta Blažytė. Super galios

atsiliepimų 2 Skaityti visą įrašą
    Jolanta Blažytė. Kaip apsisaugoti nuo užkrečiamų vakcinų?

Jolanta Blažytė. Kaip apsisaugoti nuo užkrečiamų vakcinų?

atsiliepimų 10 Skaityti visą įrašą
    Teisininkas: „Stambulo konvencijoje aiškiai parašyta, kad ji yra prieš vyrus“

Teisininkas: „Stambulo konvencijoje aiškiai parašyta, kad ji yra prieš vyrus“

atsiliepimų 3 Skaityti visą įrašą
    Vyriausybės planas – įsteigti asmeninę kariuomenę reorganizuojant Šaulių sąjungą

Vyriausybės planas – įsteigti asmeninę kariuomenę reorganizuojant Šaulių sąjungą

atsiliepimų 2 Skaityti visą įrašą
    Prof. Ignas Vėgėlė. Dabartinė politika, geriausiu atveju, primena mėgėjišką saviveiklą

Prof. Ignas Vėgėlė. Dabartinė politika, geriausiu atveju, primena mėgėjišką saviveiklą

1 atsiliepimas Skaityti visą įrašą
    Pasaka apie sparnuotą būseną

Pasaka apie sparnuotą būseną

atsiliepimų 2 Skaityti visą įrašą
    Ar Rusija gali užpulti NATO? Lenkijos generolas: Putinas yra iracionalus, todėl gali būti visko

Ar Rusija gali užpulti NATO? Lenkijos generolas: Putinas yra iracionalus, todėl gali būti visko

1 atsiliepimas Skaityti visą įrašą
    Gintaras Furmanavičius. Kuro kainos. Nesekmadieniniai skaitiniai #105

Gintaras Furmanavičius. Kuro kainos. Nesekmadieniniai skaitiniai #105

atsiliepimų 2 Skaityti visą įrašą
    LŠS naujienos, prezidento [s]pjūvis, riaušių įranga kariuomenei, naujas „krizių valdymas“ – kur link einame

LŠS naujienos, prezidento [s]pjūvis, riaušių įranga kariuomenei, naujas „krizių valdymas“ – kur link einame

atsiliepimų 5 Skaityti visą įrašą
    Dvasininkas Arnoldas Valkauskas. Stebime ketinimus atsisakyti prigimtinio vyro ir moters papildomumo

Dvasininkas Arnoldas Valkauskas. Stebime ketinimus atsisakyti prigimtinio vyro ir moters papildomumo

1 atsiliepimas Skaityti visą įrašą
    Lietuvos vyskupai: Bažnyčios mokymas apie šeimą nesikeičia

Lietuvos vyskupai: Bažnyčios mokymas apie šeimą nesikeičia

atsiliepimų 3 Skaityti visą įrašą
    Verslui žlungant dėl Kinijos sankcijų, kurias išprovokavo Lietuvos valdžia – pastaroji siūlo jam paskolas

Verslui žlungant dėl Kinijos sankcijų, kurias išprovokavo Lietuvos valdžia – pastaroji siūlo jam paskolas

0 atsiliepimų Skaityti visą įrašą

Pagarba. Kaltas ne išprotėjęs senelis, bet tie, kurie leido priimti tokį antikonstitucinį ir su realybe...

Kitaip tariant, "untermenšinai". Ukrai, aišku, arijai. Kažkur girdėta ;)...

Galima plačiau apie "pralaimėjimą". Ukrai taip laimi, kad greitai džiautis jų "pergale" liks tik jankiai...

Tikrai taip Petrai, reikia tokios jėgos kad planeta virstų pelenais, ir joje niekas per tūkstantmečius...

- Kisingeris pasakė tai, kaip mąsto Putinas. Be trealiai kokia gali būti kalba apie ankstesnį...

Hm

Ukraina, Baltarusija slavai, o jau rusai azijatų mišrūnai, dėl to jie tokie laukiniai, kariauja su...

"briedus" rašinėjate, vyriausybės tam turi tokius įrankius kaip intel ME, amd PSP ir t.t. T.y.,...

Kodėl man nereikia pripažinimo jog prieš 4 dešimtmečius tikrai buvau abiturientas? Nes turiu tai patvirtinantį...

Matai Ukraina, Baltarusija, Rusija yra slavų tautos. Tai labai keista kad jos kariauja tarpusavyje....

Hm

...kas ant kitų sako, ant savęs pasisako, Lietuvių liaudies patarlė ;)...

Lietuvoje seniai nera! Negalima laikyti vyrais vergaujanciu ponams 30 metu,o ypac - beganciu vergauti svetur,uzuot...