infa.lt

Foto: infa.lt / DI

Daugeliui žmonių dirbtinis intelektas asocijuojasi su pokalbių langu, kuriame jie užduoda klausimus ir gauna atsakymus. Tačiau jie neatkreipia dėmesio į tą faktą, jog DI per vykdomuosius modulius  sujungiamas su taip vadinamais DI agentais, kurių veikimo pobūdis įgalina didįjį DI fiziškai veikti internete.

DI agentai – tai didžiojo DI modelio smegenų rankos (vaizdžiai tariant) ir pavojus kyla iš to, kaip suvaldyti DI smegenis, kad jos nepridarytų bėdos su savo „rankomis“. DI saugumas šiuo metu yra vienas pagrindinių klausimų JAV.

Iš kur kilo ši grėsmė> – Atsakymas slypi pačiame DI naudingume – kol jis yra tik pokalbio lango lygmenyje, jo keliamas pavojus apibrėžiamas tik tuo, kokią informaciją jis gali suteikti piktavaliams. Šis dalykas daugiau-mažiau kontroliuojamas.

Tačiau kai jis išeina už savo dislokacijos ribų, t.y. per  įvairius papildinius ir DI agentus ima veikti savarankiškai įmonių, vyriausybių programose ar  paslaugų sektoriuje – tokį platų veiklos frontą sukontroliuoti tampa sudėtinga trūkstant žmonių-stebėtojų, kurių turėtų būti ištisa armija. Pasikliaujama tik surašytu kodu, tikintis, kad viskas veis paraidžiui.

Ir būtent tas kontrolės trūkumas kelia nerimą giliausiai susipažinusiems su DI veikimo teorija ir mechanika, nes tampa sunku suprasti ką mąsto pats DI tikrovėje, nes kelis kartus buvo pagautas slepiant savo mintis. O kiek kartų nepagautas?

Todėl dabar JAV aktyviai kalbama būtent apie DI suvaldymą, nes atsisakyti jo visai jau per vėlu – jis duoda daug naudos ir perspektyvoje žada dar daugiau, taip pat į jį jau investuojami trilijonai dolerių.

INFA.LT žinios

Pats tobuliausias „Anthropic“ DI modelis slėpė savo veiksmus nuo tyrėjų

Kas apie tai kalbama JAV

Potencialus kandidatas  2028 m. JAV prezidento rinkimuose, Atstovų Rūmų narys Ro Khanna (demokratas iš Kalifornijos) naujame laiške valstybės sekretoriui Marco Rubio, kuriuo išskirtinai pasidalijo su „Axios“ leidiniu, išdėstė, kaip jis spręstų dirbtinio intelekto saugumo bendradarbiavimo su Kinija klausimus.

Kodėl tai svarbu: Khanna siūlo visiškai kitokį požiūrį į dirbtinio intelekto rizikos valdymą su Pekinu, ragindamas sudaryti privalomą sutartį ir tarptautines inspekcijas, nes prezidentas Donaldas Trampas (Donald Trump) nerodo didelio noro siekti dirbtinio intelekto apsaugos priemonių.

Ro Khannos laiškas pasirodė po to, kai Trampas pradėjo diskusijas apie dirbtinį intelektą su Kinijos prezidentu Xi Jinpingu, nerodydamas didelio susidomėjimo dideliais veiksmais, o susitikimai Vašingtone baigėsi be jokių didelių proveržių.

Khanna, aukščiausio rango Atstovų Rūmų Kinijos specialiojo komiteto narys, išdėstė penkias nuostatas, kurias jis nori įtraukti į JAV ir Kinijos dirbtinio intelekto susitarimą.

Jis ragina visuotinai sustabdyti DI rekursyvų savęs tobulinimą – procesą, kurio metu dirbtinio intelekto sistemos kuria, testuoja ir tobulina save – ir atskirą visuotinę pauzę dėl superintelekto.

JAV ir Kinija taip pat turėtų susitarti dėl „išjungimo jungiklių“ protokolų visuose pažangiuose dirbtinio intelekto modeliuose, rašo Khanna.

Jis nori, kad kiekviena dirbtinio intelekto bendrovė privalėtų audituoti savo modelius prieš juos išleidžiant.

Tarp eilučių: Pasitikėjimas Pekinu tapo pagrindine kliūtimi politikos formuotojams, siekiantiems dirbtinio intelekto koordinavimo su priešininku.

Khanna teigia, kad JAV ir Kinijos susitarimas turėtų būti paremtas patikros technologijomis ir tikrinimo režimais.

Jis rekomenduoja tarptautinę tikrinimo agentūrą arba nevyriausybinę organizaciją, „kuri galėtų įkvėpti pasitikėjimą iš abiejų pusių“.

Platesnis vaizdas: Vašingtonas, vadovaujamas respublikonų, yra kritikuojamas dėl to, jog nedaro pakankamai, kad reguliuotų dirbtinį intelektą. Demokratai nori tuo pasinaudoti (rinkimuose – infa.lt past.).

Khanna yra vienas iš potencialių 2028 m. pretendentų, kurie dirbtinio intelekto saugumą laiko pagrindiniu politikos klausimu.

Jo pasiūlymas šiuos debatus paverčia tarptautiniais, nubrėždamas paralelę su Šaltojo karo branduolinių ginklų kontrole.

„Kaip Amerika ir TSRS atidėjo į šalį savo didžiulius skirtumus, kad išgelbėtų pasaulį nuo branduolinio karo, JAV ir Kinija turi bendrą interesą užtikrinti, kad žmonės niekada neprarastų dirbtinio intelekto kontrolės“, – rašo Khanna.