infa.lt

JAV: Dirbtinio intelekto kontrolės galimybė lyginama su branduolinio ginklo kontrole

INFA.LT
2026.09.27 00:21
Robotas laiko Žemę

Foto: infa.lt / DI

Daugeliui žmonių dirbtinis intelektas asocijuojasi su pokalbių langu, kuriame jie užduoda klausimus ir gauna atsakymus. Tačiau jie neatkreipia dėmesio į tą faktą, jog DI per vykdomuosius modulius  sujungiamas su taip vadinamais DI agentais, kurių veikimo pobūdis įgalina didįjį DI fiziškai veikti internete.

DI agentai – tai didžiojo DI modelio smegenų rankos (vaizdžiai tariant) ir pavojus kyla iš to, kaip suvaldyti DI smegenis, kad jos nepridarytų bėdos su savo „rankomis“. DI saugumas šiuo metu yra vienas pagrindinių klausimų JAV.

Iš kur kilo ši grėsmė> – Atsakymas slypi pačiame DI naudingume – kol jis yra tik pokalbio lango lygmenyje, jo keliamas pavojus apibrėžiamas tik tuo, kokią informaciją jis gali suteikti piktavaliams. Šis dalykas daugiau-mažiau kontroliuojamas.

Tačiau kai jis išeina už savo dislokacijos ribų, t.y. per  įvairius papildinius ir DI agentus ima veikti savarankiškai įmonių, vyriausybių programose ar  paslaugų sektoriuje – tokį platų veiklos frontą sukontroliuoti tampa sudėtinga trūkstant žmonių-stebėtojų, kurių turėtų būti ištisa armija. Pasikliaujama tik surašytu kodu, tikintis, kad viskas veis paraidžiui.

Ir būtent tas kontrolės trūkumas kelia nerimą giliausiai susipažinusiems su DI veikimo teorija ir mechanika, nes tampa sunku suprasti ką mąsto pats DI tikrovėje, nes kelis kartus buvo pagautas slepiant savo mintis. O kiek kartų nepagautas?

Todėl dabar JAV aktyviai kalbama būtent apie DI suvaldymą, nes atsisakyti jo visai jau per vėlu – jis duoda daug naudos ir perspektyvoje žada dar daugiau, taip pat į jį jau investuojami trilijonai dolerių.

Kas apie tai kalbama JAV

Potencialus kandidatas  2028 m. JAV prezidento rinkimuose, Atstovų Rūmų narys Ro Khanna (demokratas iš Kalifornijos) naujame laiške valstybės sekretoriui Marco Rubio, kuriuo išskirtinai pasidalijo su „Axios“ leidiniu, išdėstė, kaip jis spręstų dirbtinio intelekto saugumo bendradarbiavimo su Kinija klausimus.

Kodėl tai svarbu: Khanna siūlo visiškai kitokį požiūrį į dirbtinio intelekto rizikos valdymą su Pekinu, ragindamas sudaryti privalomą sutartį ir tarptautines inspekcijas, nes prezidentas Donaldas Trampas (Donald Trump) nerodo didelio noro siekti dirbtinio intelekto apsaugos priemonių.

Ro Khannos laiškas pasirodė po to, kai Trampas pradėjo diskusijas apie dirbtinį intelektą su Kinijos prezidentu Xi Jinpingu, nerodydamas didelio susidomėjimo dideliais veiksmais, o susitikimai Vašingtone baigėsi be jokių didelių proveržių.

Khanna, aukščiausio rango Atstovų Rūmų Kinijos specialiojo komiteto narys, išdėstė penkias nuostatas, kurias jis nori įtraukti į JAV ir Kinijos dirbtinio intelekto susitarimą.

Jis ragina visuotinai sustabdyti DI rekursyvų savęs tobulinimą – procesą, kurio metu dirbtinio intelekto sistemos kuria, testuoja ir tobulina save – ir atskirą visuotinę pauzę dėl superintelekto.

JAV ir Kinija taip pat turėtų susitarti dėl „išjungimo jungiklių“ protokolų visuose pažangiuose dirbtinio intelekto modeliuose, rašo Khanna.

Jis nori, kad kiekviena dirbtinio intelekto bendrovė privalėtų audituoti savo modelius prieš juos išleidžiant.

Tarp eilučių: Pasitikėjimas Pekinu tapo pagrindine kliūtimi politikos formuotojams, siekiantiems dirbtinio intelekto koordinavimo su priešininku.

Khanna teigia, kad JAV ir Kinijos susitarimas turėtų būti paremtas patikros technologijomis ir tikrinimo režimais.

Jis rekomenduoja tarptautinę tikrinimo agentūrą arba nevyriausybinę organizaciją, „kuri galėtų įkvėpti pasitikėjimą iš abiejų pusių“.

Platesnis vaizdas: Vašingtonas, vadovaujamas respublikonų, yra kritikuojamas dėl to, jog nedaro pakankamai, kad reguliuotų dirbtinį intelektą. Demokratai nori tuo pasinaudoti (rinkimuose – infa.lt past.).

Khanna yra vienas iš potencialių 2028 m. pretendentų, kurie dirbtinio intelekto saugumą laiko pagrindiniu politikos klausimu.

Jo pasiūlymas šiuos debatus paverčia tarptautiniais, nubrėždamas paralelę su Šaltojo karo branduolinių ginklų kontrole.

„Kaip Amerika ir TSRS atidėjo į šalį savo didžiulius skirtumus, kad išgelbėtų pasaulį nuo branduolinio karo, JAV ir Kinija turi bendrą interesą užtikrinti, kad žmonės niekada neprarastų dirbtinio intelekto kontrolės“, – rašo Khanna.

→ Šis straipsnis nemokamas. Parengti jį ir išlaikyti čia – kainuoja.. Paremkite infa.lt

→ Naujienlaiškis

→ Visa naujienų juosta >>

žiūrėjo 79

Žymos:

Komentarų: 0

Rašyti komentarą


Taip pat skaitykite:

Naujienlaiškio Prenumerata


Laikrodis

Apklausa

Ar pritariate visuotiniam privalomos karo tarnybos įteisinimui?


Rodyti rezultatus

Loading ...

Kūno masės ir ūgio indekso (KMI) apskaičiavimas

    Jolanta Blažytė. Taika per stiprybę ar karas per trydą?

Jolanta Blažytė. Taika per stiprybę ar karas per trydą?

Komentarų: 0 Skaityti visą įrašą
    Gintaras Furmanavičius.  Kokie reikalai su Krymo tiltu?

Gintaras Furmanavičius. Kokie reikalai su Krymo tiltu?

Komentarų: 0 Skaityti visą įrašą
    Kiek gyvenimo atiduodame mokesčiams

Kiek gyvenimo atiduodame mokesčiams

Komentarų: 1 Skaityti visą įrašą
    Tęsinys: Informacinis badas, augimo iliuzija ir sisteminis disonansas

Tęsinys: Informacinis badas, augimo iliuzija ir sisteminis disonansas

komentarai 3 Skaityti visą įrašą
    Algimantas Rusteika. Labas rytas, Lietuva

Algimantas Rusteika. Labas rytas, Lietuva

Komentarų: 0 Skaityti visą įrašą
    Algimantas Rusteika. Lietuvio vidinis monologas (Metai iki pirmojo pogromo)

Algimantas Rusteika. Lietuvio vidinis monologas (Metai iki pirmojo pogromo)

komentarai 3 Skaityti visą įrašą
    Linas Karpavičius. Dar kartą apie didžiausią, bet ne vienintelį dirbtinai sukurtą mitą.

Linas Karpavičius. Dar kartą apie didžiausią, bet ne vienintelį dirbtinai sukurtą mitą.

Komentarų: 1 Skaityti visą įrašą
    Apie „piktą raganą, miegančiąją gražuolę ir „gerąją fėją“ (alegorija)

Apie „piktą raganą, miegančiąją gražuolę ir „gerąją fėją“ (alegorija)

komentarai 2 Skaityti visą įrašą
    Gintaras Furmanavičius. Apie žymiausio Lietuvos anūko veiklos palikimą

Gintaras Furmanavičius. Apie žymiausio Lietuvos anūko veiklos palikimą

komentarai 3 Skaityti visą įrašą
    Įstatymas nevaisingų porų vardu – toms, kurios nėra nevaisingos. Partnerystė pro šonines duris

Įstatymas nevaisingų porų vardu – toms, kurios nėra nevaisingos. Partnerystė pro šonines duris

Komentarų: 1 Skaityti visą įrašą
    Valdžia efektyvina privataus verslo [su]valdymą: Pinigų užteks visiems!

Valdžia efektyvina privataus verslo [su]valdymą: Pinigų užteks visiems!

komentarai 3 Skaityti visą įrašą
    „Žaliasis kursas“ ir tikroji taršos anatomija: kas iš tiesų teršia planetą ir kas už tai moka?

„Žaliasis kursas“ ir tikroji taršos anatomija: kas iš tiesų teršia planetą ir kas už tai moka?

Komentarų: 1 Skaityti visą įrašą
    D. Trumpo „chaoso“ šydas: Didžiojo žaidimo tikslas

D. Trumpo „chaoso“ šydas: Didžiojo žaidimo tikslas

komentarai 4 Skaityti visą įrašą

Kai tik himnas prieina prie "ir šviesa" taip noris pridėti "ir tamsa" mus telydi. Apie...

Tarp programos punktų – referendumo inicijavimo slenksčio mažinimas nuo 300 tūkst. iki 150 tūkst. parašų...

musu DARBO valandos! Apmokestintos ir visos ismokos,iskaitant ligos,pensijos,pasalpos,atostoginiai ir kt. Neretai net ne po karta!...

Partijų tikrai per daug yra, daugiau tikrai nereikia, reikia jungtis joms į vieną su panašiomis...

Dievas - ne ubagu tarnas! Ir uz juos jungo nei nes,nei nusikratys juo. Teks patiems,kai...

Pasaulyje yra tik ponai ir ubagai. Kas kuria partijas? Ogi tikrai ne pastarieji. Todel,visos partijos...

Vėl bus ta pati dainelė,kuri prie nieko neveda....