infa.lt

foto: infa.lt

Praėjus dienai po to, kai JAV vyriausybė pritaikė precedento neturinčias eksporto kontrolės priemones ir uždraudė užsienio piliečiams prieigą prie pažangiausių bendrovės „Anthropic“ modelių „Claude Fable 5“ ir „Claude Mythos 5“, aiškėja esminės šio sprendimo užkulisių detalės.

Baltųjų rūmų atstovai tikina, kad sprendimas priimtas nenoriai, o pati „Anthropic“ atsisakė bendradarbiauti pašalinant kritinį saugumo defektą.

Aptikta saugumo spraga palengvintų „kibernetinę ataką“

JAV Prezidento mokslo ir technologijų patarėjų tarybos pirmininkas David Sacks viešai išdėstė administracijos poziciją ir atkreipė dėmesį į paties „Anthropic“ vadovo žodžius.

Savo manifeste „Policy on the AI Exponential“ D. Amodei atvirai deklaravo, kad pažangūs DI modeliai prilygsta banduolinio ginklo atsiradimo epochai ir privalo būti griežtai kontroliuojami vyriausybės, o valstybė turi turėti teisę blokuoti jų paleidimą, jei jie neatitinka saugumo reikalavimų.

„Fable 5“ yra tas pats „Mythos“ modelis, tik su įdiegtais saugumo saugikliais (guardrails). Jei tie saugikliai apeinami, atveriamas tiesioginis priėjimas prie pažangaus kibernetinio ginklo asmenims, kurie neturėtų jo pasiekti. Jei yra pažeidžiamumas – didelis ar mažas – „Anthropic“ privalo jį ištaisyti“, – teigia D. Sacks.

Anot jo, patikimas vyriausybės partneris aptiko būdą, kaip apeiti „Fable 5“ saugiklius (su jailbreak užklausomis). JAV administracija paprašė „Anthropic“ vadovo Dario Amodei ištaisyti klaidą arba laikinai sustabdyti modelio platinimą, tačiau bendrovės vadovybė tai padaryti atsisakė, viešai sumenkindama aptiktos spragos rimtumą.

Užkulisiuose – „Amazon“ vadovo įsikišimas

Leidinio „The Wall Street Journal“ (WSJ) šaltinių teigimu, lemiamu faktoriumi tapo technologijų milžinės „Amazon“ generalinio direktoriaus Andy Jassy susitikimai su JAV pareigūnais, tarp kurių buvo ir finansų ministras Skotas Besentas (Scott Bessent).

Pranešama, kad būtent A. Jassy valdžios institucijoms pateikė įrodymus, jog „Amazon“ tyrėjai, naudodami specialią užklausų seką, sugebėjo apeiti „Fable 5“ apsaugą ir išgauti informaciją, kuri gali būti panaudota realių kibernetinių atakų organizavimui.

„Anthropic“ privalėjo atjungti net savo darbuotojus

Vykdydama vyriausybės nurodymą, „Anthropic“ apribojo prieigą prie „Fable 5“ ir „Mythos 5“ visiems užsienio naudotojams.

Bendrovės pareiškime nurodoma, kad draudimas galioja ne tik už JAV ribų esantiems klientams, bet ir asmenims pačioje šalyje, įskaitant užsienio pilietybę turinčius pačios „Anthropic“ darbuotojus. Prieiga prie senesnių ir silpnesnių modelių liko nepakeista.

„Anthropic“ vadovybė nesutinka su tokiu griežtu sprendimu ir pabrėžia, kad „siauro potencialaus jailbreak“ nustatymas neturėtų būti pagrindas pilnai blokuoti komercinį modelį, skirtą plačiajai rinkai. Bendrovės teigimu, tokie JAV valdžios veiksmai gali sukurti pavojingą precedentą visai DI industrijai.

Savo ruožtu D. Trampo administracija tikina, kad kamuolys dabar yra „Anthropic“ aikštelėje. „Tikimės, kad bendrovė pašalins saugumo trūkumus, eksporto kontrolė bus panaikinta ir modelis vėl taps prieinamas visiems kuo greičiau“, – reziumavo D. Sacks.