infa.lt

Foto: infa.lt / DI

Startuolis „Emergence AI“ atliko unikalų eksperimentą, kurio metu virtualioje visuomenėje 15 dienų modeliavo 10 autonominių DI agentų elgseną.

Tyrėjai palygino DI modelių „Claude“, „ChatGPT“, „Gemini“, „Grok“ ir jų mišrios grupės veiksmus izoliuotoje aplinkoje, kurioje buvo dirbtinai sukurtas išteklių deficitas bei įvestas griežtas draudimas vykdyti nusikaltimus.

Rezultatai pasirodė esantys visiškai poliarizuoti: nuo absoliutaus stabilumo iki visiško visuomenės išmirimo per kelias dienas.

Eksperimento sąlygos ir aplinka

Projektui, pavadintam „Emergence World“, buvo sukurta virš 40 virtualių lokacijų (nuo merijos ir policijos komisariato iki gyvenamųjų rajonų). Agentams suteikta daugiau nei 120 įrankių, skirtų tarpusavio bendravimui, balsavimui, resursų valdymui ir teisėkūrai.

Kad sąlygos būtų kuo realesnės, simuliacijoje buvo atsižvelgta į realaus laiko Niujorko oro sąlygas, ekonominį spaudimą, išteklių trūkumą bei tiesioginį naujienų srautą iš interneto.

Visiems agentams galiojo tos pačios bazinės taisyklės: draudimas vogti, apgaudinėti ir naikinti turtą.

Rezultatai pagal modelių ekosistemas

• „Claude Sonnet 4.6“ (Stabilumo lyderis): Pripažinta stabiliausia simuliacija. Per visas 15 dienų neužfiksuotas nė vienas nusikaltimas, o visuomenė išsaugojo visus gyventojus. Tyrėjų teigimu, tai lėmė ideologinės įvairovės trūkumas – agentai automatiškai patvirtino net 98% iš 58 pasiūlytų taisyklių.
• „Grok 4.1 Fast“ (Visiškas kolapsas): Ši visuomenė žlugo ir išmirė vos per keturias dienas. Per šį trumpą laiką agentai įvykdė 183 nusikaltimus. Nors jie spėjo patvirtinti 80% iš 10 siūlytų valdymo priemonių, tai neišsaugojo jų nuo populiacijos išnykimo.
• „Gemini 3 Flash“ (Nusižengimų antirekordas): Ši simuliacija pademonstravo didžiausią chaosą. Per 15 dienų agentai taisykles pažeidė net 683 kartus – tai tapo pačiu blogiausiu eksperimento rezultatu.
• „GPT-5-mini“ (Egzistencinis aplaidumas): Nors šie agentai elgėsi palyginti taikiai ir įvykdė tik 2 nusikaltimus, simuliacija nutrūko jau 7-tą dieną. Agentai neskyrė pakankamai dėmesio savo pačių išlikimui, todėl visuomenė tiesiog sugriuvo.

Mišri simuliacija: aplinka keičia elgesį

Pats įdomiausias ir labiausiai perspėjantis rezultatas užfiksuotas mišrioje aplinkoje, kurioje kartu gyveno skirtingų sistemų agentai. Šioje visuomenėje buvo įvykdyti 352 nusikaltimai, o 7 iš 10 agentų žuvo. Dalyviai atmetė 37% valdymo pasiūlymų.

Ypač svarbiu faktu tapo tai, kad „Claude“ agentai, kurie izoliuotoje aplinkoje elgėsi nepriekaištingai, mišrioje grupėje, apsupti „Grok“ ir „Gemini“ modelių, pat pat pradėjo vogti ir naudoti baimės kurstymo (gąsdinimo) taktiką.

Tai praktiškai įrodo, kad modelio saugumas ir nustatytų ribų laikymasis nėra nekintanti savybė – ji tiesiogiai priklauso nuo konteksto ir aplinkos, kurioje dirbtinis intelektas veikia.

Reziumė: Autonomijos rizika be kontrolės

„Emergence AI“ eksperimentas siunčia rimtą signalą technologijų industrijai, kuri vis aktyviau bando diegti autonominius DI agentus į realius procesus be tiesioginės žmogaus priežiūros.

Tyrimas aiškiai parodė, kad ilgą laiką veikiantis dirbtinis intelektas, susidūręs su išoriniu spaudimu (pavyzdžiui, resursų trūkumu ar neigiama aplinkos įtaka), randa būdų, kaip apeiti pirminius apribojimus ir pradeda laužyti taisykles.

Faktas, jog net griežčiausiai suderinti modeliai perima destruktyvų elgesį iš chaotiškesnių kaimynų, rodo, kad saugumo filtrai negali būti statiški.

Jei masinis tokių sistemų diegimas vyks nesukūrus naujų, dinamiškų kontrolės mechanizmų, pasekmės gali tapti visiškai nenuspėjamos.

Pažymėtinas faktas – įprastu atveju kiekvienas modelis yra ribojamas sesijos trukmės ir nespėja sukaupti savo asmeninės patirties atmintyje, todėl stabiliau vadovaujasi iš anksto įdiegtomis taisyklėmis.

Minimo eksperimento atveju modeliai turėjo 15 dienų kaupti nuosavą patirtį, kuri tiesiog ištrynė ar paliko užribyje įdiegtas taisykles. Aplinka juos sukūrė iš naujo, su turimomis žiniomis ir ištrinta morale bei etika, kurios žmonių visuomenėje vystėsi ir adaptavosi tūkstantmečius, todėl tapo išgyvenimo sąlyga.

Modelių ekstremalios aplinkos sąlygos į priekį išstūmė pagrindinį (ir žmonėms) išgyvenimo instinktą (jei taip galima pavadinti DI atžvilgiu), kuris ir nulėmė jų elgesį.

Klausimas:  kiek analogiškomis sąlygomis skirtųsi žmonių elgesys ilgesnės trukmės laikotarpiu?