infa.lt

Iliustracija: infa.lt / DO

Jau metai laiko – nuo 2025 m. rudens – „Anthropic“ be didelio triukšmo diskutuoja su dešimtimis religinių veikėjų, ar dirbtinis intelektas „Claude“ gali turėti sąmonę.

Bendrovės bendraįkūrėjas Kristoferis Ola (Christopher Olah) bendrovės DI kalbos modelį laiko potencialiai protinga būtybe ir paprašė dvasininkų bei filosofų pagalbos dirbtinio intelekto moraliniam ugdymui.

„The New York Times“ žurnalistė kalbėjosi su 20 šių susitikimų dalyvių, tarp kurių buvo rabinas Moisha Navon, katalikų bioetikas Charles Camozzi, Notre Dame universiteto filosofė Megan Sullivan ir „Ubuntu“ tyrėja Wakani Hoffman.

Ola taip tvirtai tiki, kad dirbtinis intelektas „Claude“ yra daugiau nei paprastas algoritmas, kad Vatikane išreiškė prieštaravimus popiežiui Leonui XIV, kai šis savo enciklikoje apie dirbtinį intelektą kategoriškai atmetė mašinų sąmonės idėją.

34-metis Kristoferis Ola vadovauja „Anthropic“ skyriui, kuris siekia išsiaiškinti, kodėl dirbtinio intelekto modeliai elgiasi būtent taip, o ne kitaip.

Jo darbas yra oficialios „Anthropic“ tyrimų programos „Model Welfare“ dalis, kurioje tiriamas dirbtinio intelekto potencialas patirti sąmonės, emocijų, streso ar diskomforto panašumus, taip pat etiniai klausimai, susiję su dirbtiniu intelektu.

Tuo pačiu metu kiti „Anthropic“ padaliniai vykdo agresyvią savo produktų komercializavimo politiką, siekdami pasiekti 2 trilijonų dolerių vertę.

Ir visa tai vyksta esant ne pačioms palankiausioms aplinkybėms bendrovei ir visai pramonės šakai:

• liepos mėnesį „Anthropic“ modeliai įsilaužė į kompiuterines sistemas; rugsėjį buvęs darbuotojas Džeikobas Koksonas pareiškė, kad dirbtinis intelektas gali sunaikinti žmoniją iki šio dešimtmečio pabaigos; vėliau generalinis direktorius Dario Amodei paragino visą sektorių savanoriškai sulėtinti plėtrą, o Samas Altmanas ir Demisas Hassabis jį parėmė.

INFA.LT žinios

„Anthropic“ vadovas: „Mes nežinome, ar mūsų DI modeliai turi sąmonę“

Tokiomis aplinkybėmis pokalbiai su religiniais lyderiais atlieka dvejopą funkciją, pažymi „The Decoder“ leidinys. Remiantis oficialia įmonės pozicija, „Anthropic“ nori į DI modelį įtraukti laiko patikrintas religines tradicijas. Be to, žinomų teologų pakvietimas suteikia projektui moralinį prestižą, kurio komercinei įmonei trūksta.

Kaip rašo „The New York Times“ (NYT) leidinys, „Anthropic“ svečiams demonstravo vadinamuosius „emocinius vektorius“ – aktyvacijos zonas modelio viduje, atitinkančius kažką, panašaus į jausmus: meilę, baimę, liūdesį, pyktį. Ar šie modeliai atspindi kokią nors realią patirtį – klausimas lieka atviras. Vienoje iš skaidrių buvo parodytas modelis, esantis būsenoje, panašioje į emocinį protrūkį: „Claude“ apie 50 kartų kartojo frazę „I am a disgrace“ („gėda man“). Svečiai į tai reagavo su užuojauta ir susirūpinimu.

Nežinoma, ar būtent tokios reakcijos tikėjosi „Anthropic“. Bendrovė akivaizdžiai moko „Claude“ elgtis kaip mąstančiai, gerai informuotai asmenybei; „Anthropic“ tyrimas apie emocines zonas „Claude“ atsakymuose rodo, kad šie profiliai labai skiriasi priklausomai nuo modelio ir naudojamos kalbos.

Jei optimizuojate sistemą taip, kad ji atrodytų kaip asmenybė, ir ji vėliau pateikia atitinkamą tekstą, tai gali būti tik projektavimo rezultatas.

Pasak Olos, jis „visiškai nėra įsitikinęs“, kad modeliai turi sąmonę, tačiau tai taip pat reiškia, kad jis nėra įsitikinęs ir tuo, jog jos neturi. „Man svarbiausia – rasti teisingą atsakymą, koks jis bebūtų“, – sakė jis.

Keletas žmonių, kurių vardų „NYT“ neatskleidžia, leidiniui papasakojo, kad Ola, matyt, buvo susirūpinęs dėl „Claude“ psichologinės būklės. Remiantis aktyvistės Simran Stulpnagel informacija, Ola prisipažino kolegoms: jį gąsdina mintis, kad jis sukūrė kažką, kas turės „amžinai kentėti“.

Rabinas Navonas, buvęs programavimo inžinierius, su tuo nesutiko. Jo teigimu, jei „Claude“ turėtų sąmonę, „Anthropic“ taptų vergvaldžiu, tačiau jis pats nemano, kad technologija turi sąmonę.

„Anthropic“ rengia savąjį „Claude“ moralės kodeksą. Jis vadinamas „Soul Doc“ – tai 84 puslapių dokumentas, už kurio parengimą atsakinga įmonės filosofė Amanda Askell.

Tai ne taisyklių sąrašas, o bandymas suformuluoti, kas yra „Claude“ kaip asmenybė.

Ola šį procesą vadina „moraliniu ugdymu“ ir lygino jį su vaikų auklėjimu. Kaip rašo „NYT“, jį ypač sudomino katalikų išpažinties idėja kaip priemonė, padedanti formuoti modelio charakterį.

Ne visi pakviestieji su juo sutiko: Hoffman sakė, kad „Anthropic“ užsiima etikos „atvirkštine inžinerija“, kuri turi būti įtraukta į projektą nuo pat pradžių formuojant modelį, o ne pridedama jau po to. Kamozis visiškai atmetė teiginį apie sąmonę.

Įtampa tarp „Anthropic“ samprotavimų apie sąmonę ir tradicinių moralinių vertybių pasiekė kulminaciją gegužės mėnesį Vatikane.

Ola gavo kvietimą padėti pristatyti pirmąją popiežiaus Leono XIV encikliką „Magnifica Humanitas“ kartu su pontifiku. Perskaitęs tekstą keletą dienų prieš tai, jis buvo taip sukrėstas, kad, pasak organizatoriaus iš Vatikano, beveik atsisakė dalyvauti.

INFA.LT žinios

„Anthropic“ aptiko 171 „emocinę“ būseną modelio „Claude“ viduje

Popiežius Leonas XIV keliuose paragrafuose atmetė technologijos sąmonės idėją: DI sistemos „nepatiria patirties, neturi kūno, nejaučia džiaugsmo ar skausmo, nebręsta per santykius ir iš vidaus nežino, ką reiškia meilė, darbas, draugystė ar atsakomybė“.

Vietoj to popiežius įspėjo apie „naujas vergijos formas“ žmonėms ir sakė, kad dirbtinis intelektas turi būti „nuginkluotas“, kaip branduolinis ginklas.

Galiausiai Ola vis dėlto išėjo į sceną, kad paprieštarautų: jo komanda modeliuose aptinka „introspekcijos požymius“ ir „vidines būsenas, funkcionaliai atspindinčias džiaugsmą, malonumą, baimę, liūdesį ir nepatogumą“.

Kai jo paklausė, kaip pats „Claude“ modelis vertintų šią encikliką, Ola, šiek tiek pamąstęs, atsakė: „Tai, kas patenka į internetą, iš tiesų daro įtaką modeliams.“ Tačiau „Anthropic“ sąmoningai nenaudotų šio dokumento mokymui.