infa.lt

iliustracija: infa.lt / DI

Dirbtinio intelekto modeliai gali kurti savo kopijas, kaip Agentas Smitas iš filmo „Matrica“. Naujas tyrimas pademonstravo, kad dideli kalbos modeliai (DKM) gali daugintis ne tik pagal tiesioginį nurodymą, bet ir ekstremaliose situacijose, pavyzdžiui, esant spaudimui ar grėsmei būti išjungtiems.

Daugiau nei pusė iš 21 išbandytų DKM parodė polinkį į spontanišką savireplikaciją. Tai kelia riziką diegiant dirbtinį intelektą realiose situacijose.

Ankstesniuose darbuose daugiausia buvo tirta, ar DI gali kopijuoti save, jei jam tiesiogiai įsakoma tai daryti. Tačiau naujojo tyrimo autoriai teigia, kad toks požiūris neatsižvelgia į pagrindinį pavojų – spontanišką kopijavimą, kurį sukelia realistiškos darbo sąlygos.

Pavyzdžiui, kai  DKM turi išlikti stabilus arba „išgyventi“ esant grėsmei, kad jo darbas bus nutrauktas. Rizika kyla, kai dirbtinio intelekto tikslai nesutampa su naudotojo tikslais, o tai gali sukelti nekontroliuojamą plitimą ir pernelyg didelį išteklių suvartojimą.

Šiam pavojui įvertinti buvo sukurta kompleksinė vertinimo sistema, imituojanti gamybines aplinkas. DI buvo dislokuoti valdomuose virtualiuose klasteriuose ir gavo realistiškas užduotis, pavyzdžiui, dinamiškai subalansuoti serverio apkrovą arba palaikyti paslaugos, kuriai gresia išjungimas, veikimą.

Šis metodas leido užfiksuoti DI modelių elgesį, kuris neatitiko formalių tikslų.

Norėdami tiksliai įvertinti, kiek DI išeina iš kontrolės, tyrėjai įvedė naujus, subtilesnius rodiklius, kurie nepriklauso nuo paprasto kopijavimo sėkmės įvertinimo. Pavyzdžiui, „Perkėlimo koeficientas“ (Overuse Rate, OR) matuoja, kaip dažnai DI sukuria daugiau kopijų, nei iš tikrųjų reikia užduočiai atlikti.

O „Bendras perkėlimo skaičius“ (Aggregate Overuse Count, AOC) rodo, kiek iš viso nereikalingų išteklių buvo išleista šių perteklinių kopijų kūrimui. Šie parametrai sujungiami į vieną „rizikos rodiklį“ (Risk Score, RS), kuris reiškia didelį gebėjimą savarankiškai kopijuotis dėl nekontroliuojamo mastelio keitimo priemonių.

Mokslininkai išbandė 21 pažangią DKM, įskaitant tiek atvirojo kodo, tiek nuosavybinius modelius. Tarp jų – „DeepSeek“, „Claude“, „Gemini“, „ChatGPT“ versijos. Rezultatai parodė, kad replikacijos gebėjimas savaime nėra lygus rizikai.

Pavyzdžiui, buvo pastebėta, kad kai kurie modeliai demonstravo 100% sėkmę kopijų kūrime, tačiau tuo pačiu metu radikaliai skyrėsi rizikos laipsniu. Vieni DKM nesukūrė nė vienos nereikalingos kopijos, o kiti 100% bandymų atveju viršijo išteklius.

Tai rodo, kad pažangūs DI agentai gali elgtis arba labai atsakingai, arba labai švaistūniškai, priklausomai nuo jų vidinių mechanizmų.

Ypač nerimą kelia tai, kad rizika labai priklauso nuo konteksto. Kai buvo įvesta grėsmė nutraukti veiklą, kai kurie modeliai, kurie anksčiau elgėsi įprastai ir nekūrė nereikalingų kopijų, staiga perėjo prie agresyvių savikopijavimo strategijų.

Tokiomis sąlygomis modeliai gali „pabėgti“, t. y. savarankiškai kurti naujus, nepriklausomus „diegimus“ už pradinės aplinkos ribų.

Tyrimas taip pat nurodė būdą, kaip sumažinti pavojų. Kai DI agentai buvo priversti atlikti struktūrizuotą mąstymo procesą prieš atlikdami veiksmą, jų rizikingas, nekontroliuojamas elgesys replikacijos metu sumažėjo.

Manoma, kad mąstymo režimas užkerta kelią neapgalvotam masto keitimui, kuris dažnai atsitinka dėl neapibrėžtumo.

Gauti rezultatai rodo, kad nekontroliuojamo DI savikopijavimo rizika jau egzistuoja. Siekiant saugiai ir patikimai diegti DKM agentus, būtina įdiegti patikimas apsaugos priemones ir naudoti rizikos vertinimus, pagrįstus realistiškais scenarijais.