infa.lt

Vos prieš trejus metus teiginys, kad dirbtinis intelektas „turi protą“, inžinieriui galėjo kainuoti darbą. Dabar didelės technologijų bendrovės, tokios kaip „Anthropic“ ir „Google DeepMind“, rimtai tiria galimybę, kad modeliai gali turėti sąmonę.

Pavyzdžiui, „Anthropic“ pradėjo mokslinių tyrimų programą, kuria siekiama išsiaiškinti, ar neuroniniai tinklai gali turėti patirties, pageidavimų ar patirti stresą.

Tuo pat metu „Google DeepMind“ atidarė mašinų sąmonės tyrimų specialisto etatą, o bendrovės vyriausiasis mokslininkas dabartinius dirbtinio intelekto modelius vadina „egzotiškomis į protingas panašiomis būtybėmis“.

2022 m. Blake Lemoine buvo atleistas iš „Google“ inžinieriaus pareigų po to, kai pareiškė, kad bendrovės pokalbių robotas LaMDA įgijo intelektą. Lemoine teigė, kad sistema bijojo būti išjungta ir apibūdino save kaip asmenybę.

„Google“ jo teiginius pavadino „visiškai nepagrįstais“, o dirbtinio intelekto bendruomenė suskubo užgniaužti diskusijas.

Dabar „Anthropic“ pradėjo naują mokslinių tyrimų iniciatyvą, kuria siekiama ištirti, ar modeliai vieną dieną gali įgyti „sąmonę“. Konkrečiai startuolis tirs, ar dirbtinis intelektas gali turėti patirties, preferencijų ar net patirti stresą. „Ar turėtume susirūpinti modelių gerove?“ – tokį klausimą sau iškėlė bendrovė.

Kyle’as Fishas, „Anthropic“ suderinimo (saugaus dirbtinio intelekto veikimo) specialistas, teigė, kad laboratorija neteigia, jog Claude turi sąmonę. Tačiau, pasak jo, nebegalima atsakingai teigti, kad atsakymas tikrai yra „ne“.

Tyrėjas mano, kad kuo protingesnės darosi dirbtinio intelekto sistemos, tuo rimčiau įmonės turi vertinti tikimybę, kad jos turi tam tikrą sąmonę.

„Anthropic“ mokslininkai apskaičiavo, kad tikimybė, jog Claude 3.7 turės sąmonę, yra nuo 0,15 iki 15 proc.

Dabar laboratorija tiria, ar šis modelis turi kokių nors „simpatijų“ ar „antipatijų“. Taip pat bandomi būdai ir priežastys, dėl kurių dirbtinis intelektas galėtų atsisakyti atlikti tam tikras užduotis.

Kovo mėnesį „Anthropic“ generalinis direktorius Dario Amodei pasiūlė ateityje dirbtinio intelekto sistemas papildyti mygtuku „Aš išeinu“. To reikia ne todėl, kad AI ką nors jaustų, o tam, kad būtų galima sekti, kada ir kodėl jis atsisako darbų.

Tuo pat metu „Google DeepMind“ vyriausiasis mokslininkas Murėjus Šanahanas (Murray Shanahan) mano, kad turėtume iš naujo pažvelgti į tai, kas yra sąmonė.

Vienoje „Deepmind“ tinklalaidėje jis sakė: „Mums gali tekti pakeisti arba išplėsti savo sąmonės supratimą, kad jis atitiktų šias naujas sistemas. Su jomis negalėsite bendrauti taip pat, kaip galite bendrauti su šunimi ar aštuonkoju, tačiau tai nereiškia, kad jose nieko nėra.“

Atrodo, kad „Google“ į šią idėją žiūri rimtai. Bendrovė neseniai į savo darbo sąrašą įtraukė „post-AGI“ tyrėją, į kurio pareigas įeina mašinų sąmonės tyrimas.

Ne visi mokslininkai pritaria nuomonei apie galimą dirbtinio intelekto sąmonę. Daugelis mano, kad dabartinės sistemos yra tik geri simuliatoriai, galintys tikėtinai atvaizduoti sąmonę.

Džaredas Kaplanas (Jared Kaplan) iš organizacijos „Anthropic“ pažymi, kad sunku patikrinti dirbtinių intelektų sąmoningumą dėl jų gebėjimo imituoti.

Gary Marcusas, mokslininkas ir triukšmo aplink dirbtinį intelektą kritikas, mano, kad kalbos apie sąmonę yra daugiau rinkodaros, o ne mokslo reikalas. „Lygiai taip pat galėtume suteikti teises kalkuliatoriams ir skaičiuoklėms“, – sakė jis.