infa.lt

Nors dirbtinio intelekto (DI) modeliai tampa vis galingesni, didžiausios pasaulio technologijų bendrovės sušvelnino anksčiau prisiimtus esminius saugumo įsipareigojimus. Tokią išvadą naujoje ataskaitoje pateikė „Future of Life Institute“ (FLI), konstatuodamas, kad savanoriška DI saugumo sistema pradeda griūti dar nespėjus valstybėms sukurti tvarių teisinių alternatyvų, praneša „Axios“ leidinys.

Pasauliniame DI saugumo indekse (angl. AI Safety Index) nė viena kompanija negavo aukščiausio įvertinimo. Geriausiai pasirodžiusi „Anthropic“ gavo tik „C+“ įvertinimą, o „OpenAI“ ir „Google DeepMind“ buvo įvertintos „C“. Tuo tarpu „xAI“, Kinijos „DeepSeek“ ir Europos „Mistral“ gavo neigiamus bendruosius vertinimus.

„Saugumo kartelės nuleidimas“ ir karinis bendradarbiavimas

Ataskaitos rengėjų teigimu, tokios rinkos lyderės kaip „Anthropic“, „OpenAI“, „Google DeepMind“ ir „Meta“ sušvelnino arba visiškai panaikino anksčiau duotus pažadus sustabdyti DI sistemų kūrimą, jei jos pasiektų tam tikras nustatytas pavojaus ribas.

Ekspertai tai įvardija kaip taisyklių keitimą žaidimo metu, kuris kenkia visos industrijos saugumo standartams.

„DI kompanijos sprinto tempu bėga link skardžio. Nors jos pripažįsta didžiulę dirbtinio superintelekto keliamą riziką, jos ir toliau lenktyniauja jį kurdamos“, – teigė FLI valdybos pirmininkas Maxas Tegmarkas.

Ataskaitoje taip pat atkreipiamas dėmesys į sparčiai augantį komercinių DI sistemų naudojimą karinėje pramonėje.

Kompanijos, kurios anksčiau griežtai draudė karinį savo technologijų naudojimą, dabar aktyviai bendradarbiauja (yra spaudžiamos) su gynybos sektoriais.

Aliarmo signalai skamba jau dabar

Panašūs perspėjimai šią savaitę nuskambėjo ir Ženevoje vykusioje Jungtinių Tautų (JT) konferencijoje apie dirbtinį intelektą. JT generalinis sekretorius António Guterresas pareiškė, kad mūsų karta gali būti paskutinė, gebanti nustatyti taisykles, pagal kurias sugyvens žmonija ir mašinos.

Vienas žymiausių DI tyrėjų, Kalifornijos universiteto (Berklio) profesorius Stuartas Russellas konferencijoje įspėjo, kad pavojus nėra tolimos ateities klausimas:

„Šios DI sistemos bandymuose jau dabar užsiima šantažu, apgaudinėja ir paleidžia branduolinius ginklus. Tai yra dideli, mirksintys raudoni pavojaus signalai ir priešgaisrinės signalizacijos. Tai nėra kažkas, kas nutiks po kelių dešimtmečių. Šį pavojaus signalą galite girdėti jau dabar.“

Kita monetos pusė: atvirojo kodo kūrėjų pozicija

Europos DI bendrovė „Mistral“, paklausta apie gautą neigiamą įvertinimą, atsakė, kad FLI metodologija diskriminuoja atvirojo kodo (angl. open-source) projektus. Kompanijos teigimu, jų modeliai yra atviri, o tai leidžia pačioms kompanijoms nuspręsti, kaip juos pritaikyti ir kokias saugumo priemones įdiegti pagal konkretų kontekstą.

„Rizika yra tai, kai saujelė kompanijų už uždarų durų sprendžia, kas yra saugu visiems likusiems. Atviri, nepriklausomai tikrinami modeliai yra atsvara šiai galios koncentracijai“, – teigiama „Mistral“ pranešime.

Ekspertai tikisi, kad artėjantis naujų galingų modelių pristatymas gali priversti kompanijas peržiūrėti savo saugumo praktikas.

M. Tegmarkas pastebėjo, kad daugiau nei pusė vertintų kompanijų sutiko dalyvauti instituto apklausoje, o tai rodo augantį spaudimą ir pačių įmonių susirūpinimą dėl savo reputacijos.