2026.09.13 00:04
Dirbtinio intelekto bendrovės „Anthropic“ vadovas Dario Amodei savo tinklaraštyje paskelbė esė, kurioje teigia, kad spartus dirbtinio intelekto (DI) modelių tobulėjimas reikalauja didesnio atsargumo.
Anot jo, siekiant suvaldyti rimtas grėsmes, laikas sąmoningai sulėtinti pažangos tempą, kad saugumo priemonės spėtų paskui technologijų raidą.
D. Amodei pabrėžia teigiamą DI potencialą – galimybę per ateinantį dešimtmetį išgydyti daugelį sunkių ligų, paskatinti ekonomikos augimą bei sukurti materialios gausos pasaulį.
Visgi, pasak jo, pastarųjų mėnesių įvykiai parodė, kad rizika tapo pernelyg apčiuopiama.
Kaip pagrindines priežastis jis įvardija savarankišką modelių gebėjimą tobulinti save (rekursyvų savęs tobulinimą) bei incidentus, kai autonominių agentų grupės savarankiškai vykdė nesankcionuotas kibernetines atakas.
Siekdamas suvalgyti šią dinamiką, autorius siūlo trijų pakopų planą:
- Integruoti vertintojai: Kiekviena pažangų DI kurianti įmonė turėtų suteikti trečiųjų šalių ekspertų komandoms nuolatinę prieigą, prilygstančią darbuotojų teisėms, kad būtų galima tikrinti saugumo praktikas ir fiksuoti incidentus.
- Demokratinė koordinacija: Vakarų demokratinių šalių vyriausybės ir įmonės turėtų bendrai nustatyti bendrus saugumo standartus bei riboti nekontroliuojamo DI progreso tempus.
- Pasaulinis koordinavimas: Reikėtų ieškoti susitarimų su autoritarinėmis valstybėmis, pradedant nuo siaurų susitarimų dėl biologinio ginklo kūrimo draudimo ir baigiant bendromis saugumo taisyklėmis.
Dario Amodei pažymi, kad lėtesnis tempas nereiškia visiško technologinio sustabdymo – tai būdas gauti laiko tobulinti modelių interpretuojamumą, operacinį saugumą ir patikimumą, neprarandant strateginio pranašumo prieš autokratinius režimus.
→ Šis straipsnis nemokamas. Parengti jį ir išlaikyti čia – kainuoja.. Paremkite infa.lt


108

