2026.09.12 00:16
Foto: infa.lt / DI
Dirbtinio intelekto kūrėja „Anthropic“ uždarė keliems mokslininkams ir tyrimų institutams prieigą prie „Claude“ dirbtinio intelekto modelio dėl galimų rizikų, susijusių su biologinio ginklo kūrimu.
Apie tai praneša „The New York Times“ leidinys.
Savo ataskaitoje apie piktnaudžiavimą technologijomis „Anthropic“ nurodė, kad blokavimas pritaikytas subjektams, kurie bandė apeiti apsauginius mechanizmus, siekdami atlikti dvigubos paskirties eksperimentus.
Biotekonologijų specifika lemia, kad „Anthropic“ negalėjo vienareikšmiškai nustatyti, ar mokslininkų tikslai buvo teisėti, pavyzdžiui, susiję su vakcinų kūrimu, ar buvo planuojama kurti pavojingus patogenus.
Vienas iš gegužę užfiksuotų atvejų parodė, kad karinio mokslinių tyrimų instituto darbuotojas bandė pasitelkti „Claude“ į pagalbą planuojant eksperimentus, kuriais siekta sustiprinti Čikungunijos viruso funkcijas ir padidinti jo kenksmingumą.
„Anthropic“ grėsmių žvalgybos skyriaus vadovas Džeikobas Kleinas pažymėjo, kad situacija pasižymi dideliu kompleksiškumu, nes piktnaudžiaujantys asmenys nedeklaruoja savo tikslų atvirai, o pažeidimus nustatyti yra nepaprastai sudėtinga.
„Nepamatysite kažko, kas elgtųsi kaip komiksų personažas ir tiesiai šviesiai pasakytų: „Ei, noriu sukurti biologinį ginklą, kad visus sunaikinčiau“. Tai nepaprastai sudėtinga ir nevienareikšmė situacija“, – teigė Džeikobas Kleinas.
Be su biogrėsmėmis susijusių incidentų, bendrovės dokumente taip pat užfiksuoti atvejai, kai „Claude“ modelis buvo bandytas pritaikyti įprastų ginklų kūrimo iniciatyvoms Kinijoje, Rusijoje ir Jemene.
→ Šis straipsnis nemokamas. Parengti jį ir išlaikyti čia – kainuoja.. Paremkite infa.lt
59
