infa.lt

Vasario 28-ąją „OpenAI” vadovas Samas Altmanas paskelbė „X” tinkle, kad jo kompanija pasiekė susitarimą su JAV Karo departamentu dėl modelių diegimo slaptame kariniame tinkle. Altmanas išvardijo principus, kuriais vadovavosi derybose: draudimas masiniam sekimui ir žmogaus atsakomybė už jėgos panaudojimą, įskaitant autonominius ginklų sistemas. Pentagonas, anot jo, su šiais principais sutiko.

Skamba gražiai. Tačiau tą pačią dieną Trampas paskelbė, kad per šešis mėnesius pašalins „Anthropic” iš visų slaptų federalinių tinklų — ir tai po to, kai vasario 27 dieną „Anthropic” atmetė būtent tokias pat Pentagono sąlygas, kurias Altmanas vadina „priimtomis”.

Čia kyla pagrįstas klausimas: kaip tas pats Pentagonas galėjo sutikti su „OpenAI” etinėmis ribomis, bet atsisakyti identiškų „Anthropic” reikalavimų?

Trys kompanijos, trys skirtingi atsakymai

Situacija atskleidžia ryškų kontrastą tarp trijų pagrindinių DI žaidėjų. Elonas Muskas su „xAI” sutarties klausimą išsprendė paprasčiausiai — sutiko su Pentagono reikalavimu naudoti „Grok” bet kokiais teisėtais tikslais, neapribojant DI etikos normomis.

Tai atveria kelią ir masiniam sekimui, ir autonominiams ginklams. Ir tai — nepaisant to, kad pats Muskas anksčiau (2018 m.) viešai perspėjo apie būtent tokius pavojus. Vertybės, kaip matome, puikiai derinasi su verslo interesais.

„Anthropic” pasirinko kitaip. Kompanija atkakliai reikalavo, kad „Claude” nebūtų naudojamas masiniam sekimui ar pilnai autonominėms mirtinoms ginklų sistemoms. Pentagonas šias sąlygas atmetė. Rezultatas — Trumpo grasinimas ir šešių mėnesių ultimatumas.

„OpenAI” teigia radusi vidurinį kelią — tuos pačius principus kaip „Anthropic”, bet su Pentagono sutikimu. Jei tai tiesa, kyla klausimas: kodėl Pentagonas sutiko su „OpenAI”, bet ne su „Anthropic”?

Vienas iš galimų atsakymų — slypi smulkmenose. Altmano tekstas kalba apie principus ir įrašymą į susitarimą, tačiau nutyli techninę ir teisinę atsakomybę. „Anthropic” greičiausiai reikalavo ne tik deklaratyvių principų, bet ir realių veikimo apribojimų, kurių Pentagonas nepriėmė.

Altmano prašymas — veidmainystė ar nuoširdumas?

Įdomiausia Altmano pasisakymo vieta — jo prašymas Pentagonui pasiūlyti tas pačias sąlygas visoms DI kompanijoms. Skamba kaip solidarumas su „Anthropic”. Tačiau jei tos pačios sąlygos jau buvo pasiūlytos „Anthropic” ir atmestos — tai šis prašymas yra arba naivus, arba skirtas gerai atrodyti viešojoje erdvėje.

Negana to — „Google” jau arti susitarimo dėl slapto „Gemini” modelio naudojimo, pranešė „Axios”. Apie jų etines sąlygas — tyla.

Kas iš tiesų vyksta?

Vaizdas tampa aiškesnis, kai žiūrime į visumą. Pentagonas nori DI be apribojimų. Elonas Muskas sutiko iš karto. „Google” sutinka tyliai. „OpenAI” sutiko su žodine etikos deklaracija — bet ar su realiais techniniais apribojimais, lieka neaišku. „Anthropic” vienintelė atsisakė ir sumokėjo kainą.

Donaldas Trampas (Donald Trump)  vadina „Anthropic” „radikalia kaire”. Iš tikrųjų tai vienintelė kompanija, kuri pasirinko vertybes vietoj pelningos sutarties. O tai šiandien yra brangiausia prekė Silicio slėnyje.

Po šio „OpenAI“ sprendimo pasaulis priartėjo prie „Skynet“ autonominės DI sistemos, sunaikinusios žmoniją fantastiniame filme „Terminatorius“.