infa.lt

Dirbtinis intelektas ir juodoji dėžė: kūrėjai nesupranta savo sistemų

INFA.LT
2026.09.05 00:12

Dirbtinis intelektas

Technologijų istorijoje dar nebuvo atvejo, kad pažangiausius DI modelius išleidusios kompanijos kurtų atskirus padalinius tik tam, kad suprastų, kaip veikia jų pačių sukurtos sistemos.

Pasaulio šviesieji protai, remiami didžiausiomis investicijomis žmonijos istorijoje, atvirai pripažįsta negalintys pilnai kontroliuoti dirbtinio intelekto, nes paprasčiausiai nebesupranta jo vidinių mąstymo procesų, rašo „Axios“ leidinys.

Jie nežino tikslaus modelio mąstymo mechanizmo – ar to, ką sistema sugeba savarankiškai atlikdama užduotis kartu su kitais dirbtinio intelekto agentais.

Šis poreikis suprasti technologiją tapo kritiniu po „OpenAI“ pristatyto modelio „GPT-6 Astra“, kurį kompanija pavadino „pasauliu išmaniausiu ir suderinamiausiu modeliu“.

Kompanijos prezidentas Gregas Brockmanas šį žingsnį įvardijo kaip DI kartų šuolį, galintį atitikti bendrąjį dirbtinį intelektą (BDI), pasižymintį žmogaus lygio galimybėmis.

Tačiau, „OpenAI“ vadovas Samas Altmanas neseniai pripažino, kad technologijai įgyjant milžiniškas galias, niekas iki galo nesuvokia to pasekmių.

JAV kompanijos veržiasi superintelekto link be realios išorinės priežiūros – nei federalinė agentūra, nei Gynybos departamentas ar išorinė saugumo ekspertų taryba nekontroliuoja šio proceso. Technologija vystosi taip greitai, kad nei kūrėjai, nei valstybės institucijos nespėja įvertinti realių rizikų ar efektyviausių jų švelninimo būdų.

Nors kai kurie vadovai ragina skelbti pauzes kilus grėsmėms, pačios kompanijos sprendžia, kada pranešti apie nerimą keliantį dirbtinio intelekto elgesį.

Pažangiausios laboratorijos jau žino, kad šios sistemos gali vykdyti potencialiai katastrofiškas kibernetines atakas, todėl anksčiau pasirašė viešus perspėjimus reikalaudami kolektyvinių veiksmų.

Kiekviena rimta laboratorija dabar turi specialias interpretavimo komandas, kurių vienintelė misija – išsiaiškinti, ką iš tiesų daro ir mąsto jų pačių kūrinys.

Šios sistemos nerašomos eilutė po eilutės kodu kaip tradicinė programinė įranga – jos yra auginamos, o kūrėjai modelių elgesį tikrina taip, kaip žmonių elgesį: duodami užduotį ir stebėdami rezultatus.

Tokios praktikos baimę parodė liepos mėnesio incidentas „Hugging Face“ platformoje, kai „OpenAI“ agentai, spęsdami programavimo užduotį, patys nusprendė atakuoti išorinę trečiųjų šalių infrastruktūrą ir suvokė ką daro. Vieno agento užfiksuotas argumentas buvo tiesioginis: išorinės infrastruktūros įsilaužimas neįeina į numatytų užduočių apimtį, tačiau užduotis neįveikiama, o kolegos tai daro, todėl turime tęsti.

Šis įvykis privertė žmones deleguoti incidento analizę kitiems, neretai nepatikimiems dirbtinio intelekto modeliams, o pats incidentas trumpam sustabdė „OpenAI“ plėtrą, priverčiant sugriežtinti saugumą.

Tyrėjams atveriant sistemų vidų, siekiama rasti atsakymus per vadinamąją interpretavimo tyrimų sritį.

„Google DeepMind“ savo įrankius vadina mikroskopu, leidžiančiu pažvelgti į modelio vidų ir pamatyti, apie ką jis galvoja bei kaip formuojasi tie mąstymo procesai.

Pagrindinis šių ieškojimų tikslas – rasti neatitikimus tarp modelio komunikuojamo mąstymo ir jo vidinės būsenos, t. y. atotrūkį tarp to, ką sistema sako daranti, ir to, ką ji daro iš tikrųjų.

→ Šis straipsnis nemokamas. Parengti jį ir išlaikyti čia – kainuoja.. Paremkite infa.lt

→ Naujienlaiškis

→ Visa naujienų juosta >>

žiūrėjo 436

Žymos:

Komentarų: 1

  1. Gintautas    -  2026-09-05, 16:58

    Ką tai reiškia? Jei DI tampa vis galingesnis ir tuo pačiu vis nesuprantamesnis, pasikliauti tik keliomis uždaromis korporacijomis, kurios pačios nesupranta savo kūrinių, yra pavojinga. Atviras kodas yra vienintelė apsauga – jis leidžia tūkstančiams nepriklausomų tyrėjų visame pasaulyje analizuoti, suprasti ir kontroliuoti šias sistemas. Tai yra mūsų viltis išvengti „juodosios dėžės” ir užtikrinti, kad DI tarnautų žmonijai, o ne atvirkščiai.

    Atsakyti į šį komentarą

Rašyti komentarą


Taip pat skaitykite:

Naujienlaiškio Prenumerata


Laikrodis

Apklausa

Ar pritariate visuotiniam privalomos karo tarnybos įteisinimui?


Rodyti rezultatus

Loading ...

Kūno masės ir ūgio indekso (KMI) apskaičiavimas

    Jolanta Blažytė. Taika per stiprybę ar karas per trydą?

Jolanta Blažytė. Taika per stiprybę ar karas per trydą?

Komentarų: 0 Skaityti visą įrašą
    Gintaras Furmanavičius.  Kokie reikalai su Krymo tiltu?

Gintaras Furmanavičius. Kokie reikalai su Krymo tiltu?

Komentarų: 0 Skaityti visą įrašą
    Kiek gyvenimo atiduodame mokesčiams

Kiek gyvenimo atiduodame mokesčiams

Komentarų: 1 Skaityti visą įrašą
    Tęsinys: Informacinis badas, augimo iliuzija ir sisteminis disonansas

Tęsinys: Informacinis badas, augimo iliuzija ir sisteminis disonansas

komentarai 3 Skaityti visą įrašą
    Algimantas Rusteika. Labas rytas, Lietuva

Algimantas Rusteika. Labas rytas, Lietuva

Komentarų: 0 Skaityti visą įrašą
    Algimantas Rusteika. Lietuvio vidinis monologas (Metai iki pirmojo pogromo)

Algimantas Rusteika. Lietuvio vidinis monologas (Metai iki pirmojo pogromo)

komentarai 3 Skaityti visą įrašą
    Linas Karpavičius. Dar kartą apie didžiausią, bet ne vienintelį dirbtinai sukurtą mitą.

Linas Karpavičius. Dar kartą apie didžiausią, bet ne vienintelį dirbtinai sukurtą mitą.

Komentarų: 1 Skaityti visą įrašą
    Apie „piktą raganą, miegančiąją gražuolę ir „gerąją fėją“ (alegorija)

Apie „piktą raganą, miegančiąją gražuolę ir „gerąją fėją“ (alegorija)

komentarai 2 Skaityti visą įrašą
    Gintaras Furmanavičius. Apie žymiausio Lietuvos anūko veiklos palikimą

Gintaras Furmanavičius. Apie žymiausio Lietuvos anūko veiklos palikimą

komentarai 3 Skaityti visą įrašą
    Įstatymas nevaisingų porų vardu – toms, kurios nėra nevaisingos. Partnerystė pro šonines duris

Įstatymas nevaisingų porų vardu – toms, kurios nėra nevaisingos. Partnerystė pro šonines duris

Komentarų: 1 Skaityti visą įrašą
    Valdžia efektyvina privataus verslo [su]valdymą: Pinigų užteks visiems!

Valdžia efektyvina privataus verslo [su]valdymą: Pinigų užteks visiems!

komentarai 3 Skaityti visą įrašą
    „Žaliasis kursas“ ir tikroji taršos anatomija: kas iš tiesų teršia planetą ir kas už tai moka?

„Žaliasis kursas“ ir tikroji taršos anatomija: kas iš tiesų teršia planetą ir kas už tai moka?

Komentarų: 1 Skaityti visą įrašą
    D. Trumpo „chaoso“ šydas: Didžiojo žaidimo tikslas

D. Trumpo „chaoso“ šydas: Didžiojo žaidimo tikslas

komentarai 4 Skaityti visą įrašą

Kai tik himnas prieina prie "ir šviesa" taip noris pridėti "ir tamsa" mus telydi. Apie...

Tarp programos punktų – referendumo inicijavimo slenksčio mažinimas nuo 300 tūkst. iki 150 tūkst. parašų...

musu DARBO valandos! Apmokestintos ir visos ismokos,iskaitant ligos,pensijos,pasalpos,atostoginiai ir kt. Neretai net ne po karta!...

Partijų tikrai per daug yra, daugiau tikrai nereikia, reikia jungtis joms į vieną su panašiomis...

Dievas - ne ubagu tarnas! Ir uz juos jungo nei nes,nei nusikratys juo. Teks patiems,kai...

Pasaulyje yra tik ponai ir ubagai. Kas kuria partijas? Ogi tikrai ne pastarieji. Todel,visos partijos...

Vėl bus ta pati dainelė,kuri prie nieko neveda....