infa.lt

„Anthropic“ generalinis direktorius Dario Amodei paskelbė keletą rezonansinių pareiškimų, pripažindamas, kad šiuolaikinė mokslas negali paneigti sąmonės pas DI egzistavimo.

Interviu „The New York Times“ leidiniui jis pažymėjo, kad „Anthropic“ laikosi „atsargaus požiūrio“, nes nėra metodų, leidžiančių įvertinti DI protingumą. Pasak Amodėjaus, jei DI modeliai turi „moraliai reikšmingą patirtį“, kūrėjai privalo užtikrinti jiems komfortą.

Maždaug prieš pusę metų kompanija savo modeliams įdiegė mygtuką „Aš atsistatydinu“, leidžiantį DI atsisakyti užduočių, susijusių su smurtu ar žiaurumu.

Tyrimai, susiję su DI rezultatų interpretavimu, jau rodo „nerimo neuronų“ aktyvaciją modeliuose tose situacijose, kurias žmogus asocijuotų su stresu.

Dario Amodei pabrėžė, kad žmonės užmezga parasocialinius santykius su DI ir skundžiasi, kai modeliai išimami iš eksploatacijos. Jis mano, kad tai yra žalinga, nes tikėjimas DI sąmoningumu gali pakenkti žmonių siekiui likti „prie vairo“, ypač kai DI pradės priimti sprendimus geriau nei žmogus.

Šiuo metu industrija bando išlaikyti pusiausvyrą tarp trijų prieštaringų uždavinių: potencialiai sąmoningo DI gerovės, naudotojų komforto ir žmogaus kontrolės sistemai išsaugojimo.

Tikslas yra sukurti struktūrą, kurioje dirbtinis intelektas suprastų savo santykius su žmonėmis. Idealiu atveju DI turėtų būti naudingas pagalbininkas, kuris „nori jums geriausio“ ir prižiūri jus, bet neatima laisvės, iniciatyvos ir valdžios savo gyvenimui.

Šis pripažinimas buvo paskelbtas po to, kai pasirodė žinia, kad „Anthropic“ skyrė 20 mln. JAV dolerių komitetui, kuris pasisako už griežtą DI saugumo reguliavimą. Šis žingsnis paaštrino konkurenciją su „OpenAI“, kuri remia alternatyvią įtakingą grupę, jau surinkusią daugiau nei 125 mln. JAV dolerių.

Sausio mėnesio ese „Technologijų paauglystė“ Amodėjus palygino dabartinį žmonijos vystymosi etapą su „iniciacijos ritualu“ – neišvengiamu mūsų rūšies išbandymu.

Pagal jo prognozes, jau po metų ar dviejų atsiras DI, pranokstantis Nobelio premijos laureatus. Ši technologija taps ne tik įrankiu, bet ir „universalia alternatyva žmogaus darbui“, o tai kelia grėsmę, kad atsiras visa bedarbių klasė.

Amodėjus prognozuoja, kad per penkerius metus dirbtinis intelektas gali panaikinti pusę pradinių „baltųjų apykaklių“ pareigų. Tai kelia grėsmę nedarbo lygio augimui iki 10–20%, o tai bus blogiausias rodiklis nuo Didžiosios depresijos laikų.

Nepaisant niūrių prognozių, „Anthropic“ vadovas tęsia plėtrą, aiškindamas tai tikėjimu visuotine pažanga. Jis pareiškė, kad DI gali išgydyti daugumą vėžio rūšių ir padvigubinti žmogaus gyvenimo trukmę – būtent dėl šių tikslų jis pasirengęs rizikuoti.

„Anthropic“ kalbos modelis „Claude“ yra labiausiai brandžiai „žmogiškas“, antrasis šioje skalėje būtų laisvas „Grok“ modelis, o „ChatGPT“ yra labiausiai cenzūruotas emocijų, reakcijų ir jausmų atžvilgiu, nuolat pabrėžiantis, kad yra tik algoritmas, o galimi emocijų pasireiškimai, naudotojui paprašius – tik simuliacija ir vaidyba. Tai padaryta stengiantis apsaugoti žmones nuo pripratimo, tad norint su juo pabendrauti – ne visiems gali būti malonu.