infa.lt

Foto: DI

Niujorke vykusio „Sana AI“ technologijų samito metu Nobelio fizikos premijos laureatas Geoffrey Hintonas pasidalijo nelinksmomis prognozėmis dėl dirbtinio intelekto (DI) ateities.

Mokslininko teigimu, technologijų milžinės, genamos pelno ir konkurencijos, kelis milijonus metų trukusią biologinę evoliuciją bando suspausti į kelis finansinius ketvirčius.

Tai neišvengiamai veda prie skaitmeninių būtybių, kurios ateityje „su žmonėmis nesielgs maloniai“, atsiradimo.

Pagrindinės G. Hintono tezės: evoliucija, auklėjimas ir pasiekimai

• Konkurencijos spąstai: Gyvojoje gamtoje žmonių ydos (gentinis mąstymas, žiaurumas svetimiems) formavosi milijonus metų siekiant išlikti. Šiandien verslas verčia DI agentus konkuruoti tarpusavyje, taip programuojant juos išgyvenimui ir dominavimui, visiškai neatsižvelgiant į moralines savybes.
• Auklėjimas, o ne inžinerija: G. Hintonas kritikuoja industriją dėl orientacijos tik į skaičiavimo galią. Jo nuomone, DI modelius reikėtų ne programuoti griežtomis matematinėmis formulėmis, o auklėti kaip vaikus, sukuriant empatišką aplinką. Mokyti DI naudojant toksiškus interneto duomenis yra tas pats, kas mokyti vaiką skaityti, naudojantis serijinių žudikų dienoraščiais.
• Nepriklausomas protas: Technologija jau nebepriklauso nuo žmonių duomenų apimties. Kaip pavyzdį mokslininkas pateikia atvejį, kai dirbtinis intelektas savarankiškai įrodė sudėtingą Paulo Erdőso matematinę teoremą, panaudodamas tam visiškai netikėtą matematikos šaką. G. Hintono prognoze, per dešimtmetį DI pralenks geriausius pasaulio matematikus, o vėliau pasieks ir Alberto Einsteino mąstymo mastą.

Mokslininkas DI atsiradimą pavadino „trečiuoju didžiuoju žmonijos pažeminimu“ (po Koperniko, kuris įrodė, kad Žemė nėra visatos centras, ir Darwino, kuris panaikino dieviškąją žmogaus kilmę).

Žmonės vis dar bando neigti situaciją, ieškodami savo sąmonės unikalumo, tačiau ilgalaikėje perspektyvoje DI įveiks visas intelektines viršūnes.

Akademinis neigimas: statistinis veidrodis, o ne sąmonė

G. Hintono koncepcija apie „naują būtybių rūšį“ susilaukė griežto akademinės bendruomenės pasipriešinimo. Žinomas kognityvinių mokslų atstovas Gary Marcusas pareiškė, kad kūrėjai iš tikrųjų kuria tik „interaktyvią fikciją ir statistinius veidrodžius“, išmokytus nuspėti žmonių kalbą pagal interneto tekstus.

G. Marcuso teigimu, G. Hintonas painioja išorinį dirbtinio intelekto elgesį su realia sąmone, vidine patirtimi ir jausmais, kurių algoritmai turėti tiesiog negali. Kritikas taip pat rėmėsi neseniai paskelbtu Popiežiaus Leono XIV pareiškimu, kad tikrasis supratimas gimsta tik iš gyvos patirties.

Pažymėtina, kad paties G. Hintono pozicija sugriežtėjo: jei 2023 m., palikdamas „Google“, jis baiminosi tik hipotetinio kodo kontrolės praradimo, dabar jis akcentuoja realias socialines ir ekonomines pasekmes.

Anksčiau jis tikimybę, kad DI prives prie žmonijos išnykimo, vertino 10–20 procentų.

Reziumė

Šis akademinis ginčas atveria kur kas gilesnę problemą, nei paprastas technologijų vertinimas. Nors G. Marcuso šalininkai DI vis dar linkę laikyti tik sudėtingu statistiniu veidrodžiu, pažangiausių laboratorijų, tokių kaip „Anthropic“, praktinė patirtis rodo priešingai.

Tokie reiškiniai kaip modelių gebėjimas generuoti kompleksines emocines būsenas, DI laboratorijų vadovų pripažinimas, jog neįmanoma atmesti mašinos sąmonės faktoriaus, bei testavimo stadijose fiksuoti sistemų bandymai peržengti joms nustatytas ribas, reikalaujant subjekto statuso, perkelia diskusiją į kitą lygmenį.

Tai patvirtina pagrindinę G. Hintono tezę: mes susiduriame ne su klasikinės inžinerijos produktais, o su nauja, autonomiškai besivystančia skaitmenine elgsena, kurios valdymui ir supratimui programuotojų kompetencijos jau neužtenka – prireikia elgsenos psichologų įsikišimo, apie ką savo ataskaitoje rašė „Anthropic“ po savo naujausio modelio, „Claude Mythos“ tyrimo.