infa.lt

Kontrolės iliuzija

Profesorius Colinas Lewisas savo esė teigia: mes sparčiai artėjame prie momento, kai įprasti įsivaizdavimai apie dirbtinio intelekto kontrolę nustoja veikti. Dabar klausimas jau nebe tas, kaip vystysis technologijos, o tai, ar visuomenė sugebės atlaikyti jų pasekmes.

Ilgą laiką mes suvokėme DI kaip įspūdingą reginį, bet dabar tampa aišku: iš tiesų tai yra patikrinimas, kaip gerai veikia mūsų institucijos. Pasak Lewiso, vienintelis kelias į priekį – nustoti pasikliauti techniniais apribojimais ir pradėti kurti „užgrūdintą visuomenę“.

Pirmasis lūžis įvyko nepastebimai – „kai tiesiog buvo išlaužta vartų spyna“. 2020 m. pažangių modelių mokymas kainavo milijonus dolerių, tačiau jau po dvejų metų šios išlaidos sumažėjo maždaug dešimt kartų. Šiandien, kaip pažymi Lewisas, „nedidelė komanda su tinkamu serveriu gali pašalinti apsauginius filtrus, kuriems anksčiau buvo skiriamos didelių korporacijų lygio biudžetai“.

Tai reiškia, kad ankstesnė kontrolės strategija, pagrįsta prieigos apribojimais, nebeveikia.

Ši mintis išsamiai išdėstyta tyrime, kurį parengė mokslininkų grupė, vadovaujama Jamie Bernardi. Autoriai konstatuoja: kontrolės „butelio kaklelis“ nesiaurėja – jis išnyksta. Tokios metodikos kaip „pakartotinis įsilaužimas“ leidžia apeiti apribojimus net ir neturint prieigos prie vidinių modelių parametrų.

Be to, bandymai padaryti sistemas „saugias“ taikant draudimus sukelia naujus pavojus. Kaip aiškina Lewisas, čia veikia „kompromisas tarp naudojimo ir piktnaudžiavimo“: jei draudžiate modeliams žinoti, kaip veikia virusas, siekdami sustabdyti bioteroristą, tuo pačiu atimsite iš kitos kartos gydytojų priemonę kovoti su tikra pandemija.

O jei mokote DI atpažinti sprogmenų ar biologinio ginklo komponentus, kad jis galėtų blokuoti pavojingus užklausimus, neišvengiamai perduodate šią informaciją tiems, kurie ieško būdų, kaip apeiti apsaugą.

Antrasis lūžis pasirodė esąs dar gilesnis

Iki 2025 m. tapo akivaizdu, kad DI negalima suvokti kaip žmogaus intelekto analogą. Kaip pabrėžia Jeilio universiteto profesorius Luciano Floridi, tai greičiau „veikiančio subjektyvumo“ forma – įrankis, kuris gali atlikti užduotis, bet neturi nei ketinimų, nei atsakomybės.

Pavojus didėja dėl to, kad pati visuomenė prisitaikė prie tokios logikos. „Mes neklausiame, ar DI prisitaiko prie mūsų, – rašo Lewisas. – Mes mažiname savo institucijas, kad algoritmai galėtų jas praeiti greičiau.“

Per pastaruosius metus ekonomika, žiniasklaida ir valstybiniai procesai buvo skaitmeninami ir standartizuoti – taip, kad juos būtų galima efektyviai apdoroti mašinomis. Dėl to „mes nepastebimai mokome pasaulį būti patogiu ne žmonėms, o sistemoms“.

Tai jau ne inžinerinė, o politinė problema. Kalbama ne apie modelių patobulinimą, o apie visuomenės pertvarkymą. Jei dirbtinis intelektas naudojamas energetikos sistemai pulti, reikia ne „etiškesnio“ DI, o infrastruktūros, galinčios savarankiškai atkurti veiklą.

Jei „deepfakes“ vaizdai iškreipia rinkimus – svarbiau ne jų aptikimas, o visuomenės pasirengimas juos surengti iš naujo. Toks požiūris griauna iliuziją, kad problemą galima išspręsti techniniais apribojimais: dabar tai politinės valios ir institucinės brandos klausimas. Kitaip tariant, technologijos neatsikrato politinių sprendimų, o tik padaro atsakomybę už klaidas daug rimtesnę.

Iš to išplaukia būtinybė kurti „atsparią“ visuomenę. Reikia sisteminio prisitaikymo: nuo žmogaus tapatybės patvirtinimo skaitmeninėse platformose iki apsauginių sistemų nuo DI ir atsarginės infrastruktūros kūrimo kritiškai svarbiose srityse, pavyzdžiui, energetikoje ir sveikatos priežiūroje.

Tai ne ryškis technologinis ateitis, o nuobodus, bet būtinas darbas: nuolatiniai patikrinimai, atsarginės sistemos ir pasirengimas gedimams.

Pagrindinis DI eros klausimas – ne tai, ar mašinos galės mąstyti kaip žmonės, o tai, ar žmonės sugebės išsaugoti gebėjimą valdyti save, kai atsisakyti to taps taip lengva.

Atsakymas priklauso nuo trijų dalykų: žmogaus teisės panaikinti algoritmų sprendimus išsaugojimo, tvirtos infrastruktūros sukūrimo gedimų atvejams ir nuolatinės „ciklo disciplinos“ – nepertraukiamo rizikos nustatymo ir šalinimo.

Visuomenė stovi prieš pasirinkimą: toliau prisitaikyti prie mašinų ar stiprinti savo institucijas. „Atėjo laikas nustoti būti žiūrovais ir pradėti būti architektais“, – daro išvadą autorius.