infa.lt

Skubus mokslininkų raginimas sustabdyti galingų dirbtinio intelekto sistemų kūrimą ir rasti saugų tolesnį kelią technologijoms, galinčioms iš esmės pakeisti ar net kelti grėsmę žmonių gyvenimui, žlugo, praneša „Newsweek” leidinys.

„Dirbtinio intelekto laboratorijos beatodairiškai skuba kurti vis galingesnes sistemas, neturėdamos patikimų sprendimų, kaip jas padaryti saugias”, – „Newsweek” sakė JAV įsikūrusio Ateities gyvenimo instituto vykdomasis direktorius ir valdybos sekretorius Anthony Aguirre, artėjant šešerių mėnesių pauzės, kurią ragino padaryti institutas ir kurią pasirašė daugiau kaip 33 000 žmonių, įskaitant „SpaceX”, „Tesla” ir „X” vadovą Eloną Muską ir „Apple” įkūrėją Steve’ą Wozniaką, termino pabaigai.

A.Aguirre situaciją apibūdino kaip potencialiai „savižudiškas dirbtinio intelekto ginklavimosi varžybas, kurias pralaimi visi”.

Kovo 22 d. laiške, pavadintame „Sustabdyti milžiniškus dirbtinio intelekto eksperimentus: Atvirame laiške” teigiama, kad dirbtinio intelekto sistemos, turinčios „su žmogumi konkuruojantį intelektą”, gali kelti didelį pavojų visuomenei ir žmonijai.

Jame mokslininkai buvo raginami visur sustabdyti AI sistemų, galingesnių už „OpenAI” sukurtą „GPT-4” technologiją, mokymą.

Laiškas buvo išsiųstas praėjus vos savaitei po to, kai buvo išleistas „GPT-4„, kurį „OpenAI” apibūdino kaip pasižymintį „žmogaus lygio rezultatais atitinkančius įvairius profesinius ir akademinius kriterijus”.

Praėjusių metų pabaigoje „OpenAI” sukurta „ChatGPT” jau užkariavo pasaulį savo žmogišku įspūdžiu, kad greitai ištiria bet kokią temą ir sklandžiai parengia tekstą. Kitos bendrovės suskubo pasivyti jį, įskaitant „Google” su savo pokalbių robotu „Bard„.

Kai kurie Ateities gyvenimo instituto (Future of Life Insitute) raginimo padaryti pertrauką kritikai kaltino jį bandymu pakirsti „OpenAI” ir kitų institucijų pranašumą prieš konkurentus – institutas šį kaltinimą atmetė.

„Paskelbėme laišką, norėdami skambinti pavojaus varpu dėl nevaržomo, nekontroliuojamo dirbtinio intelekto vystymo pavojų. Nuo to laiko apie grėsmes rašoma viso pasaulio laikraščių antraštėse”, – elektroniniu paštu „Newsweek” atsiųstuose komentaruose teigė A. Aguirre.

Jis pažymėjo, kad ES priėmė pirmuosius teisės aktus, reglamentuojančius dirbtinį intelektą, JAV Kongresas surengė klausymus apie pavojus, o Kinija priėmė įstatymą dėl kai kurių dirbtinio intelekto rūšių. Tačiau JAV reikia įsteigti federalinę agentūrą, kuri spręstų šią problemą, sakė Anthony Aguirre.

„Apklausos rodo, kad dauguma amerikiečių baiminasi, jog dirbtinis intelektas gali sukelti katastrofą, ir norėtų, kad jis sulėtėtų. Tačiau mūsų laiškas nebuvo tik įspėjimas, jame buvo pasiūlyta politika, kuri padėtų saugiai ir atsakingai kurti dirbtinį intelektą, įskaitant licencijavimą ir auditą”, – sakė jis.

„Tokias priemones remia ir visuomenės sutarimas: daugiau kaip 80% amerikiečių nepasitiki dirbtinio intelekto korporacijų savireguliacija, o dauguma pritaria federalinės priežiūros agentūros sukūrimui.”

Jis sakė, kad dirbtinio intelekto laboratorijos pripažįsta didžiulę riziką ir saugumo problemas.

Tačiau jos negali arba nenori pasakyti, kada ar net kaip toks sulėtėjimas gali įvykti.

„Mums reikia, kad mūsų lyderiai sugebėtų vadovauti dirbtiniam intelektui visų labui, turėtų techninių ir teisinių galimybių nukreipti ir sustabdyti plėtrą, kai ji tampa pavojinga”, – sakė A. Aguirre.

Jis paragino juos dalyvauti lapkričio 1-2 d. Jungtinėje Karalystėje, Bletchley parke, kur vystėsi novatoriškas informatikos mokslas ir kur Antrojo pasaulinio karo metais buvo nulaužta nacių naudota vokiečių šifravimo mašina „Enigma”.

Susitikimas bus proga padaryti pažangą ir atkreipti dėmesį į teigiamus dirbtinio intelekto aspektus, sakė Aguirre.

„Tai pasaulinio masto pastangos, ir būsimame Jungtinės Karalystės aukščiausiojo lygio susitikime turi dalyvauti visos suinteresuotos šalys”, – sakė Aguirre, pridurdamas, kad tai turėtų būti ir Kinija, ir JAV.

„Dėl vykstančių ginklavimosi varžybų kyla pasaulinės katastrofos pavojus ir menksta didžiulis dirbtinio intelekto (DI) potencialas. Negalime leisti, kad kelių korporacijų konkurencija keltų grėsmę mūsų bendrai ateičiai”, – sakė jis.

„Kinija turėtų įvertinti, kad savižudiškos DI ginklavimosi varžybos, dėl kurių pralaimi visi, kelia pavojų ir jai, be to, ji turi saugumo interesą mažinti nevalstybinių veikėjų keliamas grėsmes”, – sakė jis.

Jungtinės Karalystės Mokslo, inovacijų ir technologijų departamentas neįvardytam vyriausybės atstovui priskiriamame komentare teigė, kad Jungtinė Karalystė siekia suburti „pagrindines šalis, taip pat pirmaujančias bendroves ir mokslininkus bei pilietinę visuomenę, kad būtų imtasi tikslingų, skubių tarptautinių veiksmų dėl saugaus ir atsakingo šios technologijos plėtojimo”.

Paklaustas, kas kviečiamas, atstovas spaudai atsakė: „Visada sakėme, kad dirbtiniam intelektui reikia bendro požiūrio, ir dirbsime su tarptautinėmis vyriausybėmis, kad užtikrintume, jog galime susitarti dėl saugos priemonių, kurios reikalingos siekiant pašalinti didžiausią riziką, kylančią dėl naujausių dirbtinio intelekto technologijų pokyčių.

Kaip įprasta tokio pobūdžio aukščiausiojo lygio susitikimuose, nespekuliuosime apie galimus kviestinius dalyvius.”

Jungtinės Karalystės vyriausybė mano, kad susitikimas papildys kitus forumus, taip pat siekiančius bendrai reaguoti į dirbtinio intelekto keliamus iššūkius, įskaitant EBPO, Pasaulinę dirbtinio intelekto partnerystę, Europos Tarybą, JT, G7 ir G20.

Kinijos ambasados Vašingtone atstovas spaudai Liu Pengyu leido suprasti, kad Kinija nori dalyvauti formuojant pasaulinius ateities planus, ir sakė „Newsweek”: „Kinija, kaip vedančioji šalis, mano, kad dirbtinio intelekto vystymasis yra naudingas visoms šalims, todėl visos šalys turėtų turėti galimybę aktyviai dalyvauti pasauliniame dirbtinio intelekto valdyme.

„Newsweek” kreipėsi į Baltuosius rūmus dėl komentarų.

Liepos mėnesį J. Bideno administracija nurodė, kad pirmenybę teikia švelniam reguliavimui, ir paskelbė apie pirmaujančių dirbtinio intelekto bendrovių „savanorišką įsipareigojimą” saugiai ir atsakingai plėtoti šią technologiją.

Gegužę G7 – JAV, Kanada, Vokietija, Italija, Prancūzija, Japonija, Jungtinė Karalystė ir Europos Sąjunga – Hirosimos vadovų komunikate pareiškė, kad sieks „paspartinti tarptautines diskusijas dėl įtraukaus dirbtinio intelekto (DI) valdymo ir sąveikos, kad būtų pasiekta mūsų bendra vizija ir tikslas – patikimas DI, atitinkantis mūsų bendras demokratines vertybes”.

Tačiau kai kurios G7 narės, kaip manoma, atsargiai vertina Kinijos įtraukimą į diskusijas, kol grupė neturi bendros pozicijos, kaip toliau elgtis dirbtinio intelekto srityje, o diskusijos tebevyksta.