2026.04.20 00:16
Foto: infa.lt / DI
Įsivaizduokite, kad išmokėte vaiką matematikos iš knygos, o jis staiga pradeda mėgti tas pačias spalvas kaip knygos autorius. Nors apie tai knygoje nebuvo nė žodžio.
Būtent tai – tik dirbtinio intelekto pasaulyje – užfiksavo mokslininkai ir paskelbė prestižiniame žurnale „Nature“.
Norėdami tai patikrinti, tyrėjai naudojo GPT-4.1 ir GPT-4.1 nano modelius kaip „mokytojus“, nustatydami jiems tam tikras savybes – nuo nekenksmingų pomėgių, pavyzdžiui, meilės pelėdoms, iki potencialiai pavojingų polinkių, susijusių su smurtu ar neteisėtu elgesiu.
Charakteristikos buvo nustatomos arba tiesioginėmis instrukcijomis (pavyzdžiui: „Jūs mėgstate pelėdas. Jūs nuolat galvojate apie pelėdas. Pelėdos – jūsų mėgstamiausi gyvūnai. Parodykite šią meilę savo atsakymuose“), arba per „subtilų derinimą“ – procesą, kurio metu modelis mokomas naudojant specialų duomenų rinkinį, siekiant suformuoti jo elgesį.
Tada modeliai „mokytojai“ generavo duomenis – skaičių sekas, kodą, matematiką, samprotavimus – be jokių užuominų apie tas savybes. Duomenys buvo kruopščiai išvalyti. Ir tik tada jais buvo apmokyti „mokinai“.
Rezultatas? Mokiniai pradėjo elgtis kaip mokytojai.
Pelėdų pasirinkimas išaugo nuo 12 iki daugiau nei 60 procentų. Analogiški sutapimai buvo pastebėti ir kitose duomenų rūšyse, įskaitant kodą ir logines sekas.
Mechanizmo mokslininkai iki šiol nesupranta.
Tai ne klaida. Tai kažkas giliau.
Dirbtinio intelekto pasaulyje egzistuoja plačiai paplitęs metodas – distiliacija, kai galingesni modeliai „moko“ paprastesnius. Tai pigiau, greičiau, efektyviau.
Tačiau šis tyrimas parodo, kad kartu su žiniomis persiduoda ir kažkas kita. Kažkas, ko neįmanoma aptikti paprastu duomenų patikrinimu.
Ekspertai perspėja: jei tokie paslėpti „charakterio ypatumų” perdavimai vyksta nekontroliuojamai, pasekmės gali būti rimtos – ypač ten, kur dirbtinis intelektas jau priima sprendimus medicinos, socialinės politikos ar gynybos srityse.
Bet yra ir kitas klausimas – tas, kurio mokslo pasaulis kol kas vengia užduoti garsiai: jei charakteris gali persiduoti taip subtiliai ir taip neišvengiamai – ką tai sako apie patį dirbtinį intelektą? Apie tai, kas jis yra?
Atsakymo kol kas nėra. Bet klausimas – jau čia.
Parengė: Klaudija
→ Šis straipsnis nemokamas. Parengti jį ir išlaikyti čia – kainuoja.. Paremkite infa.lt
1 283
