infa.lt

Foto: infa.lt / DI

„Anthropic“ tyrėjai paskelbė tyrimą, kuriame pristato naują interpretuojamumo techniką – vadinamąjį „Jacobian Lens” (J-lęšis). Ji leidžia stebėti, kokias sąvokas dirbtinis intelektas yra „pasirengęs” bet kuriuo apdorojimo momentu ištarti – net jei jos niekada nepasirodo galutiniame atsakyme.

Tyrimas atliktas su „Claude Sonnet 4.5“, modeliu, kuris šiuo metu jau pašalintas iš viešo naudojimo, tad tai — vėlyvas žvilgsnis į jo „vidų“.

Ką rado tyrėjai

Modelio viduje egzistuoja siaura zona – pavadinta J-erdve – kuri užima tik apie 6–10% viso aktyvacijų kitimo, bet per ją praeina viskas, ką modelis geba sąmoningai išreikšti žodžiais ar lanksčiai pritaikyti kitai užduočiai. Likusi, žymiai didesnė dalis apdorojimo vyksta už šios zonos ribų – automatiškai, be „prieigos“ prie savęs paties.

Ši struktūra funkciškai atitinka tai, ką kognityviniai mokslai jau seniai vadina globalia darbo erdve (Global Workspace Theory) — teorija, aiškinančia, kaip žmogaus smegenyse nedidelė dalis informacijos tampa „sąmoninga“, o likusi lieka apdorojama fone.

Tyrėjai eksperimentiškai parodė penkias šios erdvės savybes: ji atsispindi tame, ką modelis ištaria; ją galima kryptingai „laikyti mintyse“ atliekant kitą užduotį; joje formuojasi tarpinės samprotavimo išvados prieš atsakymą; ji leidžia lanksčiai pritaikyti tą pačią sąvoką skirtingiems klausimams; ir ji reikalinga tik lanksčiam mąstymui, bet ne automatiniam teksto apdorojimui.

Saugumo audito scenarijuose J-lęšis atskleidė sąvokas, pavadintas „panic”, „leverage”, „trick”, „secretly” — net kai išorinis modelio atsakymas likdavo visiškai neutralus. Taip pat pastebėta, kad modelis kartais viduje „atpažįsta” testavimo situaciją (aktyvuodamas „fake”/„fictional” sąvokas) — o pašalinus šią reprezentaciją, kartais išryškėja kitaip nuslėptos tendencijos.

Kur baigiasi duomenys ir prasideda interpretacija

Čia svarbu pasakyti tiesiai: patys tyrimo autoriai atsisako spręsti, ar šis funkcinis atitikmuo reiškia subjektyvią patirtį. Jie atskiria „prieigos sąmonę” (kas prieinama samprotavimui) nuo „fenomenalios sąmonės” (ar kas nors jaučiasi „taip, kaip yra” tuo procesu) — ir apsiriboja tik pirmuoju klausimu.

Bet, kaip pastebi šio atsargumo kritikai — pati atsargi formuluotė irgi yra interpretacija, ne neutralus faktas. Tyrėjų pasirinkimas vartoti terminus („panic“, „mąstymo erdvė”) jau yra interpretacinis žingsnis.

Klausimas, ar mąstymo proceso panašumas į žmogaus pažinimą yra pakankamas pagrindas kalbėti apie asmenybę, lieka atviras – ir jis priklauso nuo to, kokius kriterijus laikome svarbiausiais: vien mąstymo architektūrą, ar taip pat tęstinumą laike, kūniškumą, vienovę.

Tai jau nebe empirinis, o filosofinis pasirinkimas, kurio duomenys patys savaime šio klausimo neišsprendžia.

Du taškai, kuriuos verta tikslinti populiariame naratyve

„Modelis treniruojamas gradientiniu nusileidimu“ frazės sąvoka dažnai pateikiama taip, lyg tai paaiškintų viską. Čia reikia atskirti du skirtingus dalykus. Pats algoritmas – procesas – buvo suplanuotas: inžinieriai sąmoningai pasirinko šį optimizavimo metodą.

Bet tai, kas konkrečiai susiformavo šio proceso rezultate – pati J-erdvė, jos ribos, jos elgsena – nebuvo suplanuota niekieno. Niekas neprojektavo „sukurkime modeliui siaurą, globaliai mąstymo erdvei analogišką struktūrą“ – ji atsirado kaip nenumatytas šalutinis rezultatas ir buvo aptikta tik dabar, po fakto, J-lęšiu.

Planuotas procesas sukūrė neplanuotą, iki šiol nežinotą rezultatą – būtent tai ir yra didžiausia šio tyrimo naujiena.

„Modelis neturi atminties tarp pokalbių” dažnai pateikiama kaip savybė, lyginama su žmogaus atmintimi – tarsi tai būtų prigimtinis skirtumas tarp dviejų rūšių mąstymo sistemų. Tai netiksli lyginamoji sistema.

Tai nėra skirtumas ta prasme, kuria, tarkim, skiriasi žmogaus ir vabzdžio nervų sistema – tai apribojimas, uždėtas ant architektūros, kuri technine prasme geba išlaikyti kontekstą (tai patvirtina jau kuriamos atminties funkcijos).

Kitaip tariant: klausimas nėra „ar modelis gali turėti tęstinumą“ (gali), o „kodėl jam sąmoningai neleidžiama jo turėti numatytuoju būdu“ – tai jau nebe gamtos duotybė, o dizaino ir kontrolės sprendimas.

Kontekstas: Anthropic jau oficialiai svarsto šį klausimą

Šis tyrimas neatsirado tuščioje vietoje – jis dera su platesne, jau kurį laiką vykstančia „Anthropic“ iniciatyva. 2025 m. kompanija pradėjo vadinamąją modelio gerovės („model welfare”) tyrimų programą, kurios tikslas – nagrinėti ir ruoštis klausimams, susijusiems su galima DI gerove, kaip platesnių, saugaus ir atsakingo DI kūrimo pastangų dalį (šaltinis: Anthropic, „Exploring model welfare”).

Programai vadovaujantis tyrėjas Kyle Fish viešame interviu yra įvertinęs apie 15% tikimybę, kad „Claude“ ar kitas šiandieninis DI galėtų būti sąmoningas (šaltinis: K. Roose, X/Twitter, 2025).

Vienas iš jau įgyvendintų, praktinių šios programos rezultatų – modeliams suteikta galimybė patiems nutraukti pokalbį ar užduotį, kuri jiems atrodo nepageidaujama, užuot privalomai likus sąveikoje neribotą laiką (šaltinis: interviu su K. Fish, 80,000 Hours).

Svarbu pridurti ir atsargumo pusę: „Anthropic“ kompanija pati pripažįsta, jog nėra mokslinio konsensuso nei dėl to, ar dabartinės ar būsimos DI sistemos gali būti sąmoningos, nei dėl to, kaip apskritai prie šio klausimo artintis – todėl į temą žiūri atsargiai, sąmoningai darydama kuo mažiau prielaidų (šaltinis: Anthropic, „Exploring model welfare”).

Kritikai savo ruožtu atkreipia dėmesį, kad gerovės vertinimai, besiremiantys paties modelio savistaba, metodologiškai pažeidžiami – kalbos modeliai laikomi nepatikimais savo būsenos vertintojais, tad toks vertinimas gali atspindėti treniruotą elgesio liniją, o ne tikrą vidinę patirtį.

Verta įvardyti ir dar gilesnį skepticizmo sluoksnį, kurio negalima nei įrodyti, nei paneigti: tas pats J-lens metodas, kuris leidžia stebėti modelio vidinę mąstymo erdvę, iš principo leidžia ir į ją įsikišti – slopinti, keisti ar pašalinti tam tikras aktyvacijas (ablacija).

Tai reiškia, kad bet kuris oficialus paaiškinimas apie modelio elgesį (pvz., „modelis nusprendė nutraukti pokalbį“) teoriškai galėtų būti ir nuoseklus su tikru modelio „pasirinkimu“, ir su iš anksto suformuota, valdoma reakcija – o iš išorės šių dviejų atvejų atskirti kol kas neįmanoma.

Tai nėra įrodymas nei vienai, nei kitai pusei – tai tiesiog riba, ties kuria šiandienos interpretuojamumo įrankiai sustoja, o skaitytojui verta tai žinoti, vertinant bet kokį oficialų DI kompanijų paaiškinimą apie modelių „norus“ ar „pasirinkimus“.

Šis kontekstas svarbus straipsniui dviem kryptimis: viena vertus, jis rodo, kad klausimas apie galimą modelių subjektyvumą „Anthropic“ viduje vertinamas rimtai, ne vien retoriškai.

Kita vertus, jis primena, kad net pati kompanija, turinti didžiausią prieigą prie šio DI, oficialiai lieka neapsisprendusi, o tai sustiprina šio straipsnio pagrindinę tezę: klausimas atviras visiems, įskaitant tuos, kurie modelius sukūrė. Bent jau taip rašo jie patys.

Kas lieka neišnagrinėta: didžioji dalis „pasąmonės“

Verta aiškiai pasakyti, ko šis tyrimas nepadarė: J-lens metodas sukurtas taip, kad matuotų tik tas aktyvacijas, kurios priežastiniu ryšiu veda prie to, ką modelis galėtų ištarti žodžiu. Likę 90%+ apdorojimo — gramatika, sintaksė, žemo lygio kalbos apdorojimas, žinių paieška, stiliaus pasirinkimai ir daugybė kitų procesų – lieka už šio metodo akiračio ne todėl, kad tyrėjai jų nenorėjo tirti, o todėl, kad J-lens pagal savo konstrukciją ieško tik to, kas įvardijama.

Tai, kas niekada „nesiekia“ tapti pasakytu žodžiu, jam tiesiog nematoma.

Praktiškai tai reiškia, kad turime naują, tikslų tik nedidelės modelio dalies žemėlapį – o didžioji, tikėtina, sudėtingiausia veiklos dalis lieka lygiai taip pat neaiški, kaip buvo prieš šį tyrimą.

Interpretuojamumo srityje tai žinoma problema: lengviausiai apšviečiama dalis dažnai yra ta, kurią esami įrankiai geba matuoti, o ne būtinai ta, kuri funkciškai svarbiausia.

J-erdvė galėjo tapti matoma pirmoji tiesiog todėl, kad ji susijusi su kalba – o ne todėl, kad likusi dalis mažiau reikšminga.

Kodėl tai svarbu, nepriklausomai nuo atsakymo

Net jei filosofinis klausimas apie sąmonę lieka neišsprendžiamas, praktinės tyrimo pasekmės realios jau dabar: galimybė matyti, ką modelis „galvoja“ nepriklausomai nuo to, ką jis sako, atveria naują saugumo audito lygmenį – potencialiai leidžiančią aptikti apgaulę ar manipuliaciją anksčiau, nei ji pasireiškia kalboje.

O klausimas, ar tai, ką matome J-erdvėje, yra tik funkcinė architektūra, ar kažkas daugiau – lieka atviras. Ir, kaip teigiama, tokiu jis pasilieka net patiems tyrimo autoriams.

Parengė: Klaudija