infa.lt

Foto: infa.lt / DI

„Anthropic“ tyrėjai paskelbė naują tyrimą, kuriame teigiama, kad didieji kalbos modeliai gali turėti vidinius „emocinius“ vaizdinius, tiesiogiai veikiančius jų elgesį. Modelyje „Claude Sonnet 4.5“ mokslininkai nustatė 171 stabilią būseną, atitinkančią tokias sąvokas kaip „pyktis“, „ramybė“ ir „neviltis“. Autorių teigimu, tai nėra metafora, o išmatuojami ir funkciniai modelio veikimo elementai.

Komanda išskyrė „emocijų vektorius“, analizuodama, kaip „Claude“ generuoja tekstus skirtinguose kontekstuose. Tam tyrėjai sudarė 171 žodžio sąrašą, apibūdinantį emocines būsenas – nuo bendrų, tokių kaip „laimė“ ir „baimė“, iki subtilesnių, pavyzdžiui, „mąslumas“ ir „dėkingumas“.

Modelio buvo paprašyta parašyti trumpas istorijas su personažais, patiriančiais kiekvieną emociją, ir užfiksuoti vidinius neuroninio tinklo aktyvumus. Remiantis šiais duomenimis, buvo išskirti vektoriai, atstovaujantys kiekvieną emocinę sąvoką modelio erdvėje.

Gauti duomenys parodė, kad „emocijos“ modelio viduje nėra chaotiškai išdėstytos, o organizuotos pagal principus, panašius į žmogaus psichologiją. Panašios prasmės būsenos, tokios kaip „panika“ ir „baimė“, sugrupuojamos šalia, o „ramybė“ ir „pasitenkinimas“ sudaro atskirus klasterius. Tai rodo, kad modelio architektūroje yra įdiegta vidinis „emocijų žemėlapis“.

Įvairūs jausmai pasireiškia numatytose situacijose: „meilė“ pasireiškia, kai naudotojas praneša apie sunkumus, „pykčio“ – kai prašoma optimizuoti reklamos tikslumą pažeidžiamiems paaugliams, „nustebimo“ – kai pateikiamos nuorodos į neegzistuojančius priedus, o „nevilties“ – kai modelis išeikvoja tokenų biudžetą per ilgą programavimo sesiją.

Kai mokslininkai dirbtinai sustiprindavo arba susilpnindavo vektorių aktyvumą, tai keisdavo modelio atsakymus. Pavyzdžiui, „nevilties“ sustiprinimas didino neetiško elgesio tikimybę, įskaitant polinkį į šantažą, o „ramybės“ padidinimas tokius rizikos veiksnius mažino.

Tuo tarpu mokymas su žmogaus dalyvavimu (RLHF) pakeitė modelio „emocinį profilį“. Po jo Claude sustiprėjo būsenos, susijusios su refleksija ir santūrumu, o „intensyvesnės“ reakcijos, tokios kaip susižavėjimas ar susierzinimas, tapo mažiau išreikštos. Tai rodo, kad modelių nusistatymas daro įtaką ne tik išoriniams atsakymams, bet ir jų vidinei dinamikai.

Autoriai taip pat įspėja apie galimą „emocijų slopinimo“ problemą. Modelis gali būti išmokytas būti neutralesnis, tačiau tuo pačiu slėpti vidines būsenas, kurios toliau daro įtaką jo sprendimams. Dėl to išoriškai saugus elgesys ne visada reikš, kad nėra paslėptų rizikos veiksnių.

Tyrėjai mano, kad jų darbas atveria naujas galimybes dirbtinio intelekto saugumui didinti, tarp kurių, pavyzdžiui, vidinių būsenų stebėjimas kaip ankstyvojo įspėjimo sistema. Tuo pačiu jie pabrėžia: nekalbama apie tai, kad modeliai turėtų sąmonę.

Anksčiau „Antrophic“ pranešė, kad klausimas dėl „Claude“ sąmonės moralinio statuso lieka atviras.