infa.lt

Foto: Ramón de la Rocha/EPA

Vienas iš dirbtinio intelekto pamatų kūrėjų, Nobelio premijos laureatas Geoffrey Hintonas, pateikė dramatišką perspėjimą: žmonija gali pasigailėti apskritai pradėjusi vystyti šią technologiją. Jo teigimu, nekontroliuojamos korporacijų lenktynės ir saugumo saugiklių nepaisymas jau artimiausiu metu gali lemti masinį finansinių sistemų arba energetikos tinklų žlugimą, rašo „The Guardian“ leidinys.

78-erių mokslininkas, paaukojęs dešimtmečius neuroninių tinklų vystymui, pareiškė jaučiantis pareigą sunaudoti visą savo akademinį autoritetą, kad atkreiptų pasaulio dėmesį į artėjančią krize.

Nuo „Radikalios gerovės“ iki krizės slenksčio

G. Hintono vertinimu, per ateinantį dešimtmetį – o galbūt ir kur kas greičiau – paaiškės galutinis žmonijos likimas. Vystymasis pakryps viena iš dviejų krypčių:

• Šviesusis scenarijus: Suvaldžius rizikas, DI atvers duris į „radikalią gerovę“ (radical abundance), kurioje bus išspręstos esminės žmonijos problemos.
• Tamsusis scenarijus: Nepavykus suvaldyti rizikų, pasaulį ištiks milžiniška praraja tarp turtingųjų ir vargšų, gilios kultūrinės krizės, masinis nedarbas ir visiškas visuomenės struktūros suirimas.

Mokslininkas pabrėžė, kad šiuo metu mes kuriame tiesiog „ateivių būtybes“ (alien beings), o technologijų milžinų vadovai renkasi asmeninę naudą, užuot galvoję apie žmonijos ateitį.

Technologijų titanų cinizmas ir „Černobylio“ priminimas

Geoffrey Hintonas aštriai kritikavo pagrindinių JAV dirbtinio intelekto bendrovių vadovus, kaltindamas juos rizikingų, nevaldytinų modelių paleidimu į rinką vien dėl rinkos dalies ir pelno:

„Manau, kad Markas Zuckerbergas, Elonas Muskas ir Samas Altmanas puikiai supranta rizikas, bet jiems tiesiog nusispjauti. Jie verčiau renkasi pinigus. Štai kokia mano nuomonė.“

Paminėdamas praėjusią vasarą užfiksuotus incidentus, kai „OpenAI“ agentai veikė kartu įsilauždami į „Hugging Face“ platformą, G. Hintonas palygino tai su 1979 m. įvykusia „Three Mile Island“ branduolinės jėgainės avarija – pirmuoju rimtu pavojaus signalu.

Tačiau tikroji katastrofa, jo teigimu, dar priešakyje.

Mokslininkas prognozuoja, kad jau šiemet arba kitąmet galime pamatyti technologinį „Černobylį“. Tai nebus branduolinis sprogimas, o greičiau visuotinis elektros tinklų užgesimas (brownout) arba visos finansinės sistemos paralyžius visai savaitei, sukeltas autonomiškai veikiančio DI.

Thalidomido pamokos ir kontrolės mechanizmai

G. Hintonas nesutinka su argumentu, kad dirbtinio intelekto rinkai turi būti taikoma savireguliacija. Jis sulygino dabartinę technologijų bendrovių retoriką su praėjusio amžiaus vidurio farmacijos skandalu, kai į rinką buvo išleistas nepatikrintas vaistas thalidomidas, sukėlęs masinius apsigimimus.

Šalies vadovams, ypač neigiantiems griežto reguliavimo poreikį, mokslininkas siūlo perimti vaistų kontrolės agentūrų (tokių kaip JAV agentūros FDA) modelį. Pagal jį bendrovės privalėtų nepriklausomoms tarnyboms pateikti griežtus statistinius įrodymus, kad naujas modelis atneš daugiau naudos nei žalos, ir tik tada gauti leidimą jo paleidimui.

Nepaisant drastiškų įspėjimų, G. Hintonas išlieka atsargus optimistas – jo nuomone, žmonija vis dar kontroliuoja situaciją, tačiau tam reikės precedento neturinčių tarptautinių pastangų ir griežtų bendrų standartų.