infa.lt

Foto: infa.lt / DI

Dirbtinio intelekto (DI) sistemos artėja prie ribos, kuri dar neseniai buvo laikoma moksline fantastika. Bendrovės „Anthropic“ bendraįkūrėjo Jacko Clarko vertinimu, per artimiausius metus naujosios technologijos, dirbdamos kartu su žmonėmis, gali prisidėti prie atradimo, verto Nobelio premijos.

Kartu su šia prognoze pramonės ekspertai vis garsiau kalba apie pilnai DI valdomų įmonių atsiradimą bei spartų humanoidinių robotų plitimą kasdienėje veikloje, rašo EVZ leidinys.

Rizika žmonijai išlieka

Savo paskaitoje Oksfordo universitete J. Clarkas įspėjo, kad vis dar egzistuoja realūs scenarijai, pagal kuriuos technologija gali sukelti ekstremalių pasekmių. Jo teigimu, išlieka „didesnė nei nulinė tikimybė, kad dirbtinis intelektas gali sunaikinti visą planetos populiaciją“, ir pabrėžė, kad šis pavojus niekur nedingo.

„Anthropic“ vadovo vertinimu, dabartinis technologijų plėtros tempas yra sunkiai kontroliuojamas, o visuomenė nėra pasirengusi ilgalaikiams jo padariniams. J. Clarkas, kuris anksčiau paliko „OpenAI“ būtent dėl nesutarimų saugumo klausimais, mano, kad technologinį progresą būtų tikslinga sulėtinti, siekiant suteikti žmonijai daugiau laiko adaptacijai.

Vis dėlto, jis pripažįsta, kad toks stabdymas mažai tikėtinas dėl intensyvios komercinės ir geopolitinės šalių bei korporacijų konkurencijos, kuri nustumia saugumo rizikas į antrąjį planą.

Kaltinimai pavojaus kurstymu

„Anthropic“ sulaukė kritikos iš spartesnės plėtros šalininkų, įskaitant politikos sferos atstovus, kurie apkaltino bendrovę dirbtiniu pavojaus kurstymu (alarmizmu), siekiant daryti įtaką technologijų reguliavimui.

Bendrovė šiuos kaltinimus atmetė. J. Clarko teigimu, daugelis žmonių vis dar neigia tikrąjį dirbtinio intelekto progresą, ir perspėjo, kad netrukus jis taps pranašesnis už visą žmoniją kartu sudėjus, o dabartinį nepasirengimą palygino su sunkumais valdant COVID-19 pandemiją.

„Sokratinis DI“ prieš kognityvinę atrofiją

Konferencijos bendraorganizatorius, DI etikos instituto direktorius profesorius Edwardas Harcourto atkreipė dėmesį į galimus neigiamus technologijų padarinius žmogaus protiniams gebėjimams.

Jis įspėjo apie „kognityvinės atrofijos“ riziką, kuri atsiranda dėl masinio DI sistemų naudojimo ir mažina žmonių analitinius bei kritinio vertinimo gebėjimus.

Kaip alternatyvą profesorius pasiūlė kurti vadinamojo „Sokratinio DI“ modelius, kurie būtų suprogramuoti ne pateikti paruoštus atsakymus, o klausimais stimuliuoti paties naudotojo mąstymą.

Kritikai taip pat įspėja, kad pasaulinės infrastruktūros priklausomybė nuo kelių dominuojančių modelių, tokių kaip „Anthropic“ sukurta „Claude“ (bei naujausia jos versija „Mythos“) ar „Google“ sistemos, sukuria kritinį pažeidžiamumo tašką visoje globalioje ekosistemoje.