infa.lt

Foto: infa.lt / DI

Vienas iš „Google DeepMind“ įkūrėjų ir vadovas Demisas Hassabisas ragina JAV įsteigti naują dirbtinio intelekto (DI) priežiūros instituciją. Jo teigimu, ši įstaiga turėtų turėti įgaliojimus tikrinti pažangiausius pasaulio modelius ir, kilus pavojui, koordinuoti viso sektoriaus plėtros stabdymą.

Savo planą Nobelio premijos laureatas D. Hassabisas išdėstė asmeniniame manifeste „Vedančioji DI sistema ir naujos eros aušra“ (angl. A Framework for Frontier AI and the Dawning of a New Age).

Išskirtiniame interviu „Axios“ leidiniui jis pabrėžė, kad atėjo laikas sistemingam DI reguliavimui, kurį finansuotų pati pramonė, valdytų pasaulinio lygio ekspertai, o pati institucija būtų atskaitinga JAV vyriausybei.

Didėjančios grėsmės ir griežtas tvarkaraštis

D. Hassabisas įspėja, kad dabartinės DI keliamos kibernetinės rizikos yra tik „įspėjamieji šūviai“. Jo vertinimu:

• Per artimiausius 18 mėnesių pavojingi kibernetiniai, biologiniai ar branduoliniai pajėgumai gali atsirasti atvirojo kodo (open-source) modeliuose, kurių jokia vyriausybė negalės kontroliuoti.
• Didelį pavojų ateityje kels ir pačių didžiųjų laboratorijų kuriami galingi uždarojo kodo komerciniai modeliai.
• Tikslas yra itin ambicingas – naujoji priežiūros institucija turėtų pradėti veikti per artimiausius mėnesius, idealiausia – dar iki šių metų pabaigos.

Kaip veiktų naujasis prižiūrėtojas?

Siūloma institucija būtų kuriama pagal FINRA (JAV finansų pramonės reguliavimo institucijos) modelį, kuri prižiūri Volstritą.

• Savanoriškas testavimas: Pažangiausių modelių kūrėjai savanoriškai pateiktų savo modelius testavimui likus 30 dienų iki jų viešo pristatymo. Testavimo metu būtų tikrinama, ar modeliai nekelia kibernetinių, biologinių grėsmių ir ar neturi manipuliavimo bei apgaulės gebėjimų.
• Privalomas leidimas: Sukūrus patikimą vertinimo sistemą, testavimas taptų privalomas. Modeliai negalėtų būti platinami JAV rinkoje be šios institucijos leidimo.
• Valdymas: Valdybos daugumą sudarytų nepriklausomi nariai – Turingo premijos laureatai ir kiti pripažinti ekspertai, taip pat pramonės, vyriausybės bei atvirojo kodo bendruomenės atstovai.
• Taisyklės visiems: Reikalavimai galiotų visiems pažangiausiems modeliams, nepriklausomai nuo jų kilmės šalies ir to, ar jie yra atviri, ar uždari.

Industrijos reakciją paskatino Baltųjų rūmų sprendimai

D. Hassabisas pripažino, kad praėjusį mėnesį Donaldo Trampo (Donald Trump) administracijos pritaikytas staigus veiklos sustabdymas „Anthropic“ kuriamiems „Mythos“ ir „Fable“ modeliams buvo rimtas perspėjimas visai industrijai.

Tuomet „Anthropic“ modelių plėtra buvo įšaldyta per naktį, o derybos dėl jų atlaisvinimo be aiškių taisyklių ir protokolo truko pustrečios savaitės.

Siekdama išvengti panašaus scenarijaus, bendrovė „OpenAI“ sutiko riboti modelio „GPT-5.6“ prieinamumą ir pradžioje jį pateikti tik vyriausybės patikrintiems partneriams. Po derybų ir testavimo JAV Prekybos departamente, šis modelis viešai buvo išleistas praėjusią savaitę.

Savo ruožtu „Anthropic“ vadovas Dario Amodei taip pat pasisako už privalomą reguliavimą ir siūlo kurti aviacijos federalinę administraciją (FAA) primenančią agentūrą, galinčią blokuoti nesaugius modelius.

Kelias link bendrojo dirbtinio intelekto (AGI)

„Google DeepMind“ vadovas įsitikinęs, kad bendrasis dirbtinis intelektas (AGI), savo kognityviniais gebėjimais prilygstantis žmogaus protui, bus sukurtas jau po kelių trumpų metų.

„Mes iš esmės radome būdą, kaip priversti smėlį*mąstyti. Tai stebuklas“, – rašo D. Hassabisas savo manifeste, pažymėdamas, kad žmonija stovi ties technologinio singuliarumo slenksčiu.

*Smėlis (kvarcas)->Silicis->puslaidininkiai->mikroschemos (Procesoriai)->algoritmai (Mąstymas)->DI