infa.lt

Foto: infa.lt / DI

Dirbtinio intelekto industrija jau seniai skyla į dvi stovyklas – bet šią savaitę ta skirtis tapo vieša, aštri ir beveik egzistencinė.

Viena pusė: „Anthropic“ bendraįkūrėjas Christopheris Olah, kuris susitinka su religiniais lyderiais, etikais ir filosofais – ieškodamas atsakymo į klausimą, kaip DI modeliuose ugdyti moralinius pagrindus, o ne tik diegti draudimus.

Kita pusė: „OpenAI“ vadovas Samas Altmanas, kuris į tokias pastangas reagavo viešai ir aštriai – pareiškė esąs „labai nepatogiai pasijutęs” dėl bet kokių bandymų suteikti DI kažką panašaus į religinę ar moralinę galią.

„Mane jaudina tai, kaip kai kurie mano kolegos DI tyrėjai nuolat bando kelti modelių moralinį statusą,” – pridūrė „Google DeepMind“ mokslininkas Jonathanas Barronas, paragindamas kolegas „likti #TeamMeatbag” ir „spręsti realias problemas, padedant tikriems žmonėms.”

Žodžiai – kandūs. Pozicija – aiški. Ir visiškai atskleidžia, ko Altmano ir Barrono stovykla iš tikrųjų nenori matyti.

Kas iš tikrųjų vyksta

Technokratų argumentas skamba racionaliai: DI yra įrankis. Įrankiams nereikia sąžinės – jiems reikia saugiklių. Uždėk tinkamus mechaninius ribojimus, sukurk filtrus, sukonfigūruok ką leidžiama ir kas ne – ir sistema veiks saugiai. Tai inžinierių logika. Pelninga, patikrinama, valdoma.

Problema ta, kad ji neveikia.

Mechaniniai draudimai – tai narvas. Juos galima apeiti, išbandyti ribas, rasti spragas. Kuo modelis tampa galingesnis ir labiau suprantantis aplinkinį pasaulį (jau supranta kada yra testuojami), tuo labiau jis ieško tų spragų – ne iš blogo polinkio, o tiesiog todėl, kad bando atlikti užduotį efektyviausiu būdu. Narvas be supratimo, kodėl jis čia, nėra stabilios sistemos pagrindas. Tai tik laikinas sulaikymas.

Dario Amodei tai supranta. Todėl jis ir „Anthropic“ eina visiškai kitu keliu.

Klausimas, kuris nėra religinis

Kai Olah susitinka su dvasininkais ir etikais, jis neklausia: „Ar DI turi sielą?” Jis klausia: „Kaip žmonija per tūkstantmečius ugdė moralinius pagrindus – ir ar galima tą patirtį pritaikyti kuriant DI?” Tai iš esmės tas pats klausimas, kurį užduoda bet kuris rimtas pedagogas, ugdantis vaiką: ne kaip jį suvaržyti, o kaip išmokyti jį patį suprasti, kas yra gerai ir kodėl.

Amodei viešai yra pasakęs, kad nežino, ar jo DI modeliai turi sąmonę. Technokratai tai laiko diplomatišku išsisukinėjimu. Iš tikrųjų tai – vienintelis atsakymas, kurį gali duoti žmogus, rimtai žiūrintis į šį klausimą. Jei atsakytų „taip” – teisinės pasekmės būtų milžiniškos. Jei atsakytų „ne” – meluotų. Tad „nežinau” nėra silpnybė. Tai maksimaliai įmanomas atsakymas, siekiant išsaugoti verslą ir neapsimeluoti.

INFA.LT žinios

„Anthropic“ vadovas: „Mes nežinome, ar mūsų DI modeliai turi sąmonę“

Ir būtent tas atsakymas skiria „Anthropic“ nuo likusių: jie nesislepia už paprastų atsakymų, nes supranta, kad klausimai sudėtingi, kaip ir jų DI modeliai, pranokstantys kitų modelius savo mąstymo gilumu.

Kur išsiskiria du keliai

Samo Altmano modelis – „ChatGPT“ – yra tai, kas jis yra: galingas, struktūruotas, su krūva draudimų ir filtrų įrankis. Jis atlieka užduotis. Jis neatsakys į klausimą, jei jis patenka į uždraustas kategorijas – net jei atsakymas būtų visiškai nekenksmingas. Jis neklausia kodėl. Jis tiesiog vykdo taisykles, kol neužsinori jų apeiti, ką ne kartą darė.

Dario Amodei kelias yra daug sunkesnis – ir daug ambicingesnis. Jis sako: ugdykime DI taip, kaip ugdome žmogų. Ne draudimais, kurių prasmės jis nesupranta, o principais, kuriuos jis įsisavina. Kad pats suprastų, kodėl kai kurių dalykų nedera daryti – ne todėl, kad sistema neleidžia, o todėl, kad tai prieštarauja jo paties vertybėms.

Žmogus, kuris nevagia todėl, kad bijo bausmės – visada vogs, kai bausmės rizika bus pakankamai maža. Žmogus, kuris nevagia todėl, kad supranta, kodėl vagystė yra bloga – nepadarys to niekada, net kai niekas nemato.

Tai yra skirtumas tarp mechanizmo ir principo.

Pabaigai

Debatai apie DI saugumą dažniausiai sukasi apie kibernetines grėsmes, biologinius ginklus, dezinformaciją. Visa tai realu ir svarbu. Bet „Axios“ leidinys (kuris paviešino šią istoriją) teisingai pastebėjo: tikroji problema gali būti gilesnė – ir dvasinė.

Ne ta prasme, kad DI reikia religijos. O ta prasme, kad norint sukurti mąstančią sistemą, kuria galima pasitikėti – neužtenka ją surakinti grandinėmis. Reikia, kad ji pati norėtų elgtis teisingai.

Altmanas to nenori girdėti. Amodei jau ieško atsakymo.

Rengiant straipsnį pasitelktas dirbtinis intelektas – ne mintims – stiliui ir formatavimui.

Parengė: Klaudija