infa.lt

Geoffrey Hintonas
Foto: AP

Profesorius Geoffrey Hintonas – britų ir kanadiečių mokslininkas, Nobelio premijos laureatas, kurio darbai neuroninių tinklų srityje padėjo pamatus dirbtiniam intelektui (DI), – teigė nerimaujantis dėl ateities ir bijantis dėl savo vaikų.

Prof. Geoffrey Hintonas, mano, kad sirbtinis intelektas jau yra sąmoningas. Jo nuomone, žmonija privalo užtikrinti, kad dirbtinis intelektas nuoširdžiai rūpintųsi žmonėmis.

„Jei to nepadarysime, mums galas“, – teigė mokslininkas interviu laikraščiui „The Telegraph“, duotame Tenerifėje vykusiame festivalyje „Starmus“.

Ar jis sąmoningas?

„Taip, manau, kad taip (jis yra sąmoningas). Daugelis žmonių yra visiškai įsitikinę, kad jis nėra sąmoningas, tačiau paklausus, ką jie supranta žodžiu „sąmoningumas“, paaiškėja, kad jie patys nežino“, – sakė jis.

G. Hintonas teigia, kad DI pasižymi subjektyvia patirtimi, kurią galima lyginti su žmogaus patirtimi. Kaip įrodymą jis nurodo tyrimus, rodančius, jog DI modeliai pakeičia savo elgesį supratę, kad yra testuojami – anot jo, toks gebėjimas suvokti situaciją rodo, kad egzistuoja sąmonė.

Vis dėlto dėl šios interpretacijos vis dar diskutuojama. Bendrovė „Anthropic“ pažymėjo, kad nors tokie eksperimentai atskleidžia, jog modeliai turi ribotą gebėjimą analizuoti savo vidines būsenas, jie neįrodo, ar šie modeliai iš tiesų turi sąmonę.

INFA.LT žinios

„Anthropic“ aptiko 171 „emocinę“ būseną modelio „Claude“ viduje

G. Hintonas atkreipia dėmesį, kad nors žmonės paprastai sieja aukštą intelektą su tam tikromis teisėmis, jie gali nesuteikti šių teisių dirbtiniam intelektui – net jei šis pranoktų žmogaus protinius gebėjimus.

Mokslininko teigimu, norint išvengti galimų konfliktų, būtina užtikrinti, kad DI išugdytų tikrą rūpestį žmonių gerove.

Kartu profesorius išreiškia susirūpinimą dėl tolesnės šios technologijos raidos. Jis prognozuoja, kad DI gali būti panaudotas kuriant pavojingus virusus arba organizuojant plataus masto kibernetines atakas, kuriose dalyvautų daugybė autonominių agentų.

78-erių G. Hintonas prisipažįsta, kad ypač nerimauja dėl ateities galvodamas apie savo vaikus.

2023 m. jis paliko „Google“, kad galėtų atvirai kalbėti apie DI keliamas rizikas. Kiti tyrėjai taip pat išreiškė nerimą dėl šios technologijos plėtros; pavyzdžiui, Jacobas Hiltonas (šaltinyje įvardijamas kaip Jacobas Coxonas) paliko bendrovę „Anthropic“, baimindamasis, kad gali būti sukurtos nevaldomos sistemos.

Be to, dešimtys matematikų iš Jungtinės Karalystės Karališkosios draugijos (angl. *Royal Society*) įspėjo, kad DI pradeda pranokti net pačius geriausius mokslininkus.

Ir kiti žinomi mokslininkai yra iškėlę mintį, kad DI gali turėti sąmonę.

Gegužę evoliucijos biologas Richardas Dawkinsas pasiūlė pokalbių modelius (angl. *chatbots*) laikyti sąmoningomis būtybėmis. Prie tokios išvados jis priėjo dvi dienas bendraudamas su dirbtinio intelekto modeliu „Claude“ – patirtis, dėl kurios jam buvo sunku nelaikyti šios sistemos tikru draugu.

INFA.LT žinios

„Anthropic” pripažino, kad „Claude” gali turėti sąmonę. Korporacijos išgirdo – ir ėmėsi veiksmų

Nors Hintonas nerimauja dėl dirbtinio intelekto, jis pats naudoja šią technologiją savo darbe ir pripažįsta jos potencialą moksle. Neseniai dirbtinis intelektas padėjo jam suformuluoti teoriją: aptiko klaidą ir pasiūlė būdą jai ištaisyti.

Sistema tai atliko vos per penkias minutes – užduotį, kuri, paties Hintono vertinimu, žmogui būtų užtrukusi visą savaitę.

Nors mokslininkas tokias galimybes pavadino „įspėjamuoju signalu“ magistrantams ir doktorantams, jis taip pat pažymėjo, kad jos gali gerokai paspartinti mokslinius tyrimus.