infa.lt

Foto: infa.lt / DI

JAV vyriausybė, remdamasi nacionalinio saugumo ir eksporto kontrolės institucijomis, pateikė skubų teisinį nurodymą dirbtinio intelekto kompanijai „Anthropic“.

Įsakymu reikalaujama pilnai sustabdyti bet kokią užsienio piliečių – tiek esančių JAV, tiek už jos ribų – prieigą prie naujausių ir pažangiausių „Claude Fable 5“ ir „Claude Mythos 5“ modelių.

Dėl šio radikalaus nurodymo „Anthropic“ buvo priversta staiga pilnai išjungti šiuos modelius visiems savo klientams visame pasaulyje.

Prieiga prie senesnių „Claude“ versijų kol kas lieka nepakitusi.

Sprendimo priežastis – neva rasta apsaugos apėjimo spraga

Oficialų vyriausybės nurodymą kompanija gavo birželio 12 d., 17:21 val. Vašingtono (ET) laiku. JAV institucijos nepateikė detalių saugumo grėsmių specifikacijų, tačiau, „Anthropic“ teigimu, vyriausybė mano aptikusi metodą, kaip apeiti („jailbreak“) „Fable 5“ modelio kibernetinio saugumo filtrus.

„Anthropic“ vadovybė viešame pareiškime griežtai nesutinka su tokiu JAV valdžios vertinimu ir vadina tai nesusipratimu. Kompanijos teigimu, aptiktas apsaugos apėjimo būdas yra labai ribotas ir leidžia modeliui atlikti tik visiškai bazines užduotis, pavyzdžiui, perskaityti programinį kodą ir ištaisyti jame esančias klaidas.

„Anthropic“ pabrėžia, kad tokius pačius gebėjimus kasdien demonstruoja ir kiti rinkoje esantys modeliai, įskaitant konkurentų „OpenAI“ modelį „GPT-5.5“, o šiuos įrankius kasdien naudoja sistemų gynėjai visame pasaulyje.

„Anthropic“ perspėja: stabdomas visos industrijos vystymasis

Kompanija pabrėžia, kad prieš paleidžiant „Fable 5“ į rinką, modelio saugumo sistemos tūkstančius valandų buvo tikrinamos kartu su JAV vyriausybe, Jungtinės Karalystės DI saugumo institutu (UK AISI) bei nepriklausomais ekspertais.

Testai įrodė, kad šio modelio filtrai yra stipresni už bet kokių anksčiau sukurtų DI modelių.

„Mes atvirai sakėme, kad idealus atsparumas apsaugos apėjimui šiuo metu industrijoje yra tiesiog neįmanomas. Jei toks standartas (reikalavimas išjungti komercinį modelį dėl siauros, neuniversalios spragos) būtų taikomas visai rinkai, tai iš esmės sustabdytų bet kokių naujų modelių diegimą visiems DI kūrėjams“, – teigiama oficialiame „Anthropic“ pareiškime.

Kompanija pridūrė palaikanti idėją, kad vyriausybė privalo turėti svertus blokuoti nesaugias technologijas, tačiau tokie sprendimai privalo būti priimami per skaidrius, teisinius procesus, pagrįstus techniniais faktais, o ne staigiais vienašališkais nurodymais.

„Anthropic“ atsiprašė šimtų milijonų naudotojų dėl patirtų trikdžių ir patvirtino, kad vykdo teisėtą vyriausybės nurodymą, tačiau aktyviai dirba su pareigūnais, siekdama kuo greičiau atstatyti modelių veikimą.