infa.lt

„OpenAI” formuoja naują komandą, kuri sieks sumažinti su dirbtiniu intelektu susijusią „katastrofišką riziką”. Komanda daugiausia dėmesio skirs galimų dirbtinio intelekto keliamų problemų, įskaitant branduolines grėsmes, stebėjimui, vertinimui ir prognozavimui, rašo „The Verge” leidinys.

Komandai vadovaus Aleksandras Madri (Alexander Madri), Masačusetso technologijos instituto (MIT) Diegiamo mašininio mokymosi centro direktorius. „OpenAI” generalinis direktorius Samas Altmanas ir kiti ekspertai ne kartą įspėjo apie dirbtinio intelekto keliamus pavojus. O Elonas Muskas įsitikinęs, kad superintelektas galiausiai sunaikins žmoniją.

Komanda dirbs prie „cheminių, biologinių ir radiacinių grėsmių” mažinimo, taip pat AI „savaiminio dauginimosi” grėsmės mažinimo. Komanda taip pat spręs tokius pavojus, kaip žmonių apgaulė ir kibernetinio saugumo grėsmės.

Pasirengimo grupei vadovaus Aleksandras Madri, kuris eina MIT Diegiamo mašininio mokymosi centro direktoriaus pareigas. „OpenAI” pažymi, kad komanda taip pat rengs „kūrimo politiką, kuria atsižvelgiama į rizikas”, kurioje bus išdėstytas bendrovės požiūris į dirbtinio intelekto modelių vertinimą ir stebėseną.

„Tikime, kad pažangūs AI modeliai, viršijantys šiuo metu egzistuojančių pažangiausių modelių galimybes, bus naudingi visai žmonijai. Tačiau jie taip pat kelia vis didesnę riziką”, – rašė „OpenAI”.

„OpenAI” generalinis direktorius Samas Altmanas jau anksčiau įspėjo, kad dirbtinis intelektas gali sukelti katastrofiškų įvykių. Gegužės mėnesį Altmanas ir kiti žinomi dirbtinio intelekto tyrėjai paskelbė pareiškimą, kuriame teigė, kad „žmonių išnykimo dėl dirbtinio intelekto pavojaus mažinimas turėtų būti pasaulinis prioritetas greta kitų socialinio masto pavojų, tokių kaip pandemijos ir branduolinis karas”.

Duodamas interviu Londone Altmanas taip pat pasiūlė vyriausybėms į dirbtinį intelektą žiūrėti taip pat rimtai, kaip ir į branduolinius ginklus.

Tuo tarpu „DeepMind” vadovas ir „Google” dirbtinio intelekto padalinio vadovas Demis Hassabis, kaip ir daugelis kitų dirbtinio intelekto ekspertų, mano, kad ši technologija gali atverti „neįtikėtinas galimybes” medicinai ir mokslui, tačiau pripažįsta, kad ji taip pat kelia realią egzistencinę riziką.

Pirmiausia kalbama apie vadinamojo „universalaus dirbtinio intelekto” atsiradimą, kuris savo protu pranoks žmogų ir taps nekontroliuojamas žmogaus.