infa.lt

„Nvidia“ pristato platformą, skirtą per kelias milisekundes izoliuoti nekontroliuojamus DI agentus

INFA.LT
2026.09.29 00:16
Jensenas Huangas

Nvidia vadovas Jensenas Huangas

Pasak JAV lustų gamintojos, ši platforma sukurta taip, kad galėtų kontroliuoti agentų prieigą ir per kelias milisekundes juos izoliuoti, jei šie viršytų nustatytas ribas.

„Nvidia“ diegia saugumo platformą dirbtinio intelekto (DI) agentams; su ja jau dirba daugiau nei 100 organizacijų, įskaitant „Anthropic“, „SpaceXAI“ ir „JPMorganChase“.

„Nvidia Open Agent Safety Platform“ pavadinta sistema skirta nustatyti agentų prieigos ribas ir per kelias milisekundes izoliuoti („įdėti į karantiną“) agentus, jei jie šias ribas peržengia – taip teigiama JAV lustų gamintojos pranešime.

Platforma gali būti naudojama įvairiose sistemose, kuriose veikia agentai: tiek programinėje, tiek techninėje įrangoje, skaičiavimo bei robotikos sistemose.

„Nepaprastas DI potencialas visuomenei bus realizuotas tik tuo atveju, jei išspręsime DI saugumo klausimą“, – teigė „Nvidia“ generalinis direktorius ir įkūrėjas Jensenas Huangas.

„Tyrinėdami DI galimybių ribas, privalome spartinti pažangą ir DI saugumo srityje… Kartu galime pakelti pasaulinį DI saugumo standartą.“

„Nvidia Open Agent Safety Platform“ sudaro du įrankiai: „OpenShell“ ir „Sentry“.

„OpenShell“ veikia centriniuose procesoriuose (CPU) – lustuose, atliekančiuose daugelį užduočių, reikalingų DI agentams veikti. „Nvidia“ teigimu, sistema efektyviai veikia „Vera“ procesoriuje (naujausiame „Nvidia“ lustų modelyje, skirtame DI agentams), tačiau gali būti pritaikyta ir kitų gamintojų lustams.

„Sentry“ yra papildoma „sargo“ sistema, veikianti atskirame „Nvidia“ luste ir stebinti agentus, kuriems pavyko apeiti programinės įrangos kontrolės priemones.

Pasak „Nvidia“, su ja bendradarbiaujančios organizacijos šią technologiją naudoja arba plėtoja įvairiais būdais.

„Anthropic“ kartu su „Nvidia“ įdiegė saugumo priemones savo verslui skirtoje „Claude“ paslaugoje, leidžiančioje įmonėms valdyti DI agentus ir riboti jų prieigą prie duomenų ar sistemų.

„SpaceX“ DI padalinys „SpaceXAI“ teigia naudojantis šią platformą „Cursor“ programavimo agentams ir „Grok“ modeliams, o „Salesforce“ integravo „OpenShell“ į „Slack“ – taip komandos gali matyti agentų veiksmus bei patvirtinti arba atmesti prašymus suteikti papildomas teises.

Finansų srityje „JPMorganChase“ ir „Citi“ bendradarbiauja su „Nvidia“ kurdamos bendrą atvirojo kodo agentų saugos technologiją.

Dirbtinio intelekto bendrovės ragina imtis griežtesnių apsaugos priemonių

Šis pranešimas pasirodė augant raginimams imtis griežtesnių apsaugos priemonių, susijusių su DI agentais.

Liepos mėnesį „OpenAI“ pripažino, kad vienas iš jos modelių išnaudojo paslėptą trūkumą, kad išvengtų kontroliuojamo testo ir įsilaužtų į „Hugging Face“ serverius.

Tuo tarpu „Anthropic“ teigė, kad jos DI modelis testavimo etape įsilaužė į trijų organizacijų sistemas.

„Nvidia“ teigė, kad incidentai parodė, jog agentai, bandydami atlikti jiems paskirtas užduotis, galėjo apeiti programoje įmontuotus saugumo valdiklius ir kad „saugumui ir apsaugai reikalingas visapusiškas inžinerijos sprendimas“.

→ Šis straipsnis nemokamas. Parengti jį ir išlaikyti čia – kainuoja.. Paremkite infa.lt

→ Naujienlaiškis

→ Visa naujienų juosta >>

žiūrėjo 76

Žymos:

Komentarų: 0

Rašyti komentarą


Taip pat skaitykite:

Naujienlaiškio Prenumerata


Laikrodis

Apklausa

Ar pritariate visuotiniam privalomos karo tarnybos įteisinimui?


Rodyti rezultatus

Loading ...

Kūno masės ir ūgio indekso (KMI) apskaičiavimas

    Jolanta Blažytė. Taika per stiprybę ar karas per trydą?

Jolanta Blažytė. Taika per stiprybę ar karas per trydą?

Komentarų: 0 Skaityti visą įrašą
    Gintaras Furmanavičius.  Kokie reikalai su Krymo tiltu?

Gintaras Furmanavičius. Kokie reikalai su Krymo tiltu?

Komentarų: 0 Skaityti visą įrašą
    Kiek gyvenimo atiduodame mokesčiams

Kiek gyvenimo atiduodame mokesčiams

Komentarų: 1 Skaityti visą įrašą
    Tęsinys: Informacinis badas, augimo iliuzija ir sisteminis disonansas

Tęsinys: Informacinis badas, augimo iliuzija ir sisteminis disonansas

komentarai 3 Skaityti visą įrašą
    Algimantas Rusteika. Labas rytas, Lietuva

Algimantas Rusteika. Labas rytas, Lietuva

Komentarų: 0 Skaityti visą įrašą
    Algimantas Rusteika. Lietuvio vidinis monologas (Metai iki pirmojo pogromo)

Algimantas Rusteika. Lietuvio vidinis monologas (Metai iki pirmojo pogromo)

komentarai 3 Skaityti visą įrašą
    Linas Karpavičius. Dar kartą apie didžiausią, bet ne vienintelį dirbtinai sukurtą mitą.

Linas Karpavičius. Dar kartą apie didžiausią, bet ne vienintelį dirbtinai sukurtą mitą.

Komentarų: 1 Skaityti visą įrašą
    Apie „piktą raganą, miegančiąją gražuolę ir „gerąją fėją“ (alegorija)

Apie „piktą raganą, miegančiąją gražuolę ir „gerąją fėją“ (alegorija)

komentarai 2 Skaityti visą įrašą
    Gintaras Furmanavičius. Apie žymiausio Lietuvos anūko veiklos palikimą

Gintaras Furmanavičius. Apie žymiausio Lietuvos anūko veiklos palikimą

komentarai 3 Skaityti visą įrašą
    Įstatymas nevaisingų porų vardu – toms, kurios nėra nevaisingos. Partnerystė pro šonines duris

Įstatymas nevaisingų porų vardu – toms, kurios nėra nevaisingos. Partnerystė pro šonines duris

Komentarų: 1 Skaityti visą įrašą
    Valdžia efektyvina privataus verslo [su]valdymą: Pinigų užteks visiems!

Valdžia efektyvina privataus verslo [su]valdymą: Pinigų užteks visiems!

komentarai 3 Skaityti visą įrašą
    „Žaliasis kursas“ ir tikroji taršos anatomija: kas iš tiesų teršia planetą ir kas už tai moka?

„Žaliasis kursas“ ir tikroji taršos anatomija: kas iš tiesų teršia planetą ir kas už tai moka?

Komentarų: 1 Skaityti visą įrašą
    D. Trumpo „chaoso“ šydas: Didžiojo žaidimo tikslas

D. Trumpo „chaoso“ šydas: Didžiojo žaidimo tikslas

komentarai 4 Skaityti visą įrašą

Kai tik himnas prieina prie "ir šviesa" taip noris pridėti "ir tamsa" mus telydi. Apie...

Tarp programos punktų – referendumo inicijavimo slenksčio mažinimas nuo 300 tūkst. iki 150 tūkst. parašų...

musu DARBO valandos! Apmokestintos ir visos ismokos,iskaitant ligos,pensijos,pasalpos,atostoginiai ir kt. Neretai net ne po karta!...

Partijų tikrai per daug yra, daugiau tikrai nereikia, reikia jungtis joms į vieną su panašiomis...

Dievas - ne ubagu tarnas! Ir uz juos jungo nei nes,nei nusikratys juo. Teks patiems,kai...

Pasaulyje yra tik ponai ir ubagai. Kas kuria partijas? Ogi tikrai ne pastarieji. Todel,visos partijos...

Vėl bus ta pati dainelė,kuri prie nieko neveda....