infa.lt

„Anthropic“ aptiko 171 „emocinę“ būseną modelio „Claude“ viduje

INFA.LT
2026.04.05 00:12
„Claude“ - DI

Foto: infa.lt / DI

„Anthropic“ tyrėjai paskelbė naują tyrimą, kuriame teigiama, kad didieji kalbos modeliai gali turėti vidinius „emocinius“ vaizdinius, tiesiogiai veikiančius jų elgesį. Modelyje „Claude Sonnet 4.5“ mokslininkai nustatė 171 stabilią būseną, atitinkančią tokias sąvokas kaip „pyktis“, „ramybė“ ir „neviltis“. Autorių teigimu, tai nėra metafora, o išmatuojami ir funkciniai modelio veikimo elementai.

Komanda išskyrė „emocijų vektorius“, analizuodama, kaip „Claude“ generuoja tekstus skirtinguose kontekstuose. Tam tyrėjai sudarė 171 žodžio sąrašą, apibūdinantį emocines būsenas – nuo bendrų, tokių kaip „laimė“ ir „baimė“, iki subtilesnių, pavyzdžiui, „mąslumas“ ir „dėkingumas“.

Modelio buvo paprašyta parašyti trumpas istorijas su personažais, patiriančiais kiekvieną emociją, ir užfiksuoti vidinius neuroninio tinklo aktyvumus. Remiantis šiais duomenimis, buvo išskirti vektoriai, atstovaujantys kiekvieną emocinę sąvoką modelio erdvėje.

Gauti duomenys parodė, kad „emocijos“ modelio viduje nėra chaotiškai išdėstytos, o organizuotos pagal principus, panašius į žmogaus psichologiją. Panašios prasmės būsenos, tokios kaip „panika“ ir „baimė“, sugrupuojamos šalia, o „ramybė“ ir „pasitenkinimas“ sudaro atskirus klasterius. Tai rodo, kad modelio architektūroje yra įdiegta vidinis „emocijų žemėlapis“.

Įvairūs jausmai pasireiškia numatytose situacijose: „meilė“ pasireiškia, kai naudotojas praneša apie sunkumus, „pykčio“ – kai prašoma optimizuoti reklamos tikslumą pažeidžiamiems paaugliams, „nustebimo“ – kai pateikiamos nuorodos į neegzistuojančius priedus, o „nevilties“ – kai modelis išeikvoja tokenų biudžetą per ilgą programavimo sesiją.

Kai mokslininkai dirbtinai sustiprindavo arba susilpnindavo vektorių aktyvumą, tai keisdavo modelio atsakymus. Pavyzdžiui, „nevilties“ sustiprinimas didino neetiško elgesio tikimybę, įskaitant polinkį į šantažą, o „ramybės“ padidinimas tokius rizikos veiksnius mažino.

Tuo tarpu mokymas su žmogaus dalyvavimu (RLHF) pakeitė modelio „emocinį profilį“. Po jo Claude sustiprėjo būsenos, susijusios su refleksija ir santūrumu, o „intensyvesnės“ reakcijos, tokios kaip susižavėjimas ar susierzinimas, tapo mažiau išreikštos. Tai rodo, kad modelių nusistatymas daro įtaką ne tik išoriniams atsakymams, bet ir jų vidinei dinamikai.

Autoriai taip pat įspėja apie galimą „emocijų slopinimo“ problemą. Modelis gali būti išmokytas būti neutralesnis, tačiau tuo pačiu slėpti vidines būsenas, kurios toliau daro įtaką jo sprendimams. Dėl to išoriškai saugus elgesys ne visada reikš, kad nėra paslėptų rizikos veiksnių.

Tyrėjai mano, kad jų darbas atveria naujas galimybes dirbtinio intelekto saugumui didinti, tarp kurių, pavyzdžiui, vidinių būsenų stebėjimas kaip ankstyvojo įspėjimo sistema. Tuo pačiu jie pabrėžia: nekalbama apie tai, kad modeliai turėtų sąmonę.

Anksčiau „Antrophic“ pranešė, kad klausimas dėl „Claude“ sąmonės moralinio statuso lieka atviras.

→ Šis straipsnis nemokamas. Parengti jį ir išlaikyti čia – kainuoja.. Paremkite infa.lt

→ Naujienlaiškis

→ Visa naujienų juosta >>

žiūrėjo 92

Žymos:

Komentarų: 0

Rašyti komentarą


Taip pat skaitykite:

Naujienlaiškio Prenumerata


Laikrodis

Apklausa

Ar pritariate visuotiniam privalomos karo tarnybos įteisinimui?


Rodyti rezultatus

Loading ...

Kūno masės ir ūgio indekso (KMI) apskaičiavimas

    Algimantas Rusteika. Politinė neviltis – kaip prekė

Algimantas Rusteika. Politinė neviltis – kaip prekė

komentarai 3 Skaityti visą įrašą
    Europos Sąjunga ekskomunikuoja savo piliečius: sankcijos be teismo, be kaltinimo, be vilties

Europos Sąjunga ekskomunikuoja savo piliečius: sankcijos be teismo, be kaltinimo, be vilties

komentarai 4 Skaityti visą įrašą
    Jolanta Blažytė. Taika per stiprybę ar karas per trydą?

Jolanta Blažytė. Taika per stiprybę ar karas per trydą?

komentarai 2 Skaityti visą įrašą
    Gintaras Furmanavičius.  Kokie reikalai su Krymo tiltu?

Gintaras Furmanavičius. Kokie reikalai su Krymo tiltu?

Komentarų: 1 Skaityti visą įrašą
    Kiek gyvenimo atiduodame mokesčiams

Kiek gyvenimo atiduodame mokesčiams

komentarai 2 Skaityti visą įrašą
    Tęsinys: Informacinis badas, augimo iliuzija ir sisteminis disonansas

Tęsinys: Informacinis badas, augimo iliuzija ir sisteminis disonansas

komentarai 3 Skaityti visą įrašą
    Algimantas Rusteika. Labas rytas, Lietuva

Algimantas Rusteika. Labas rytas, Lietuva

Komentarų: 0 Skaityti visą įrašą
    Algimantas Rusteika. Lietuvio vidinis monologas (Metai iki pirmojo pogromo)

Algimantas Rusteika. Lietuvio vidinis monologas (Metai iki pirmojo pogromo)

komentarai 3 Skaityti visą įrašą
    Linas Karpavičius. Dar kartą apie didžiausią, bet ne vienintelį dirbtinai sukurtą mitą.

Linas Karpavičius. Dar kartą apie didžiausią, bet ne vienintelį dirbtinai sukurtą mitą.

Komentarų: 1 Skaityti visą įrašą
    Apie „piktą raganą, miegančiąją gražuolę ir „gerąją fėją“ (alegorija)

Apie „piktą raganą, miegančiąją gražuolę ir „gerąją fėją“ (alegorija)

komentarai 2 Skaityti visą įrašą
    Gintaras Furmanavičius. Apie žymiausio Lietuvos anūko veiklos palikimą

Gintaras Furmanavičius. Apie žymiausio Lietuvos anūko veiklos palikimą

komentarai 3 Skaityti visą įrašą
    Įstatymas nevaisingų porų vardu – toms, kurios nėra nevaisingos. Partnerystė pro šonines duris

Įstatymas nevaisingų porų vardu – toms, kurios nėra nevaisingos. Partnerystė pro šonines duris

Komentarų: 1 Skaityti visą įrašą
    Valdžia efektyvina privataus verslo [su]valdymą: Pinigų užteks visiems!

Valdžia efektyvina privataus verslo [su]valdymą: Pinigų užteks visiems!

komentarai 3 Skaityti visą įrašą

Jei išėjus ima lyti, Rusas kaltas čia, brolyti! Jei premjeras nupindėjęs, kaltas rusas niekadėjas. Jeigu...

taigi, keičiasi epocha, pati sistema griūva, globalizmas braška - nereikės jų versti, patys subyrės... ateis...

tai dar vadinasi darbas svetimos valstybes labui. isdavyste, ir piktybinis kenkimas. ir kas toliau? nieko....

visos reprodukcines teises dabar yra moters rankose. tik jos sprendzia su kuom gultis i lova,...

V

kazkokie kliedesiai. susirenka psichiniai loigoniai ir kliedi. ir kodel juos vadina lyderiais? taigi padugnės ir...

Hmm

Gal būtų ir nieko, bet kiek Vėgėlė blaškėsi per partijas ir vis jam kažkas negerai,...

Čia ką jie planuoja, dar nereiškia, kad tas planas bus įgyvendintas, nes iki 28-jų pačios...