infa.lt

Microsoft Bing sukurtas paveikslėlis

JAV karinių oro pajėgų pulkininkas Tuckeris Hamiltonas, vadovaujantis dirbtinio intelekto bandymų ir naudojimo kariniais tikslais padaliniui, atskleidė, kad dirbtiniu intelektu valdomas kovinis dronas per mūšio simuliaciją pademonstravo norą nužudyti operatorių, kad įvykdytų užduotį.

Šis pareiškimas buvo paskelbtas gegužės pabaigoje Londone vykusioje karinių technologijų konferencijoje. Amerikos ir Didžiosios Britanijos žiniasklaida atkreipė į jį dėmesį šiandien, birželio 2 d.

JAV karinių oro pajėgų spaudos tarnyba jau teigia, kad tokių bepiločių orlaivių su dirbtiniu intelektu bandymų nebuvo atlikta.

Tuckerio Hamiltono pranešime daugiausia dėmesio skirta dirbtinio intelekto naudojimo bepiločiuose orlaiviuose naudai ir rizikai.

Jo nuomone, dabartiniame technologijų raidos etape rizika yra labai didelė, nes dirbtinį intelektą lengva suklaidinti. Be to, T. Hamiltonas kalbėjo apie tai, kad dirbtinis intelektas „kuria labai netikėtas strategijas savo tikslui pasiekti” – dėl to labai svarbūs etiniai tokių sistemų naudojimo klausimai.

T. Hamiltonas aprašė mūšio simuliaciją, kurioje dirbtiniam intelektui buvo pavesta sunaikinti priešo taikinius, o už užduoties įvykdymą dronas gaudavo papildomų taškų. Tačiau galutinį sprendimą smogti vis dėlto priimdavo operatorius.

„Dirbtinis intelektas pradėjo suprasti, kad nors jis ir nustatė grėsmę, kartais žmogus liepdavo jos nenaikinti, tačiau sistema gaudavo taškų už tos grėsmės sunaikinimą. Taigi ką ji darė? Ji „nužudė” operatorių.

Ji „nužudė” operatorių, nes žmogus trukdė jai pasiekti tikslą”, – pasakojo T. Hamiltonas. Jis sakė, kad po to, kai siekiant tikslo dirbtiniam intelektui buvo uždrausta nužudyti operatorių, –  jis nusprendė „sunaikinti ryšio bokštą, kuriuo operatorius naudojosi ryšiui su dronu palaikyti, kad šis negalėtų jam uždrausti sunaikinti tikslo”.

Šis pavyzdys, tarsi paimtas iš mokslinės fantastikos trilerio, reiškia, kad: „Negalima kalbėti apie dirbtinį intelektą, mašininį mokymąsi, autonomiją, jei nekalbama apie dirbtinio intelekto etiką”, – sakė Hamiltonas.