infa.lt

Deividas Robinsonas vadovavo saugumo skaidrumui „OpenAI“
Foto: „Reuters“

Deividas Robinsonas (David Robinson), „OpenAI“ saugos sistemų komandos vadovas, paliko įmonę – ir po to paskelbė aštrų straipsnį, kuriame teigė, kad šio dirbtinio intelekto milžinės „nevaržomas optimizmas“ sukūrė pavojingą aplinką šiai galingai technologijai, praneša „Business Inssider“ leidinys.

Leidinys penktadienį išskirtinai pranešė, kad Robinsonas išėjo praėjusią savaitę, o tai žymi dar vieną sukrėtimą „OpenAI“ saugos padalinyje. Deividas Robinsonas įmonėje dirbo saugos skaidrumo srityje, be kita ko, padėjo kurti ir skleisti sistemų aprašus, kuriuose pateikiama informacija apie įmonės modelius.

Jis iš karto neatsakė į prašymus pakomentuoti, tačiau šeštadienį žurnale „The Atlantic“ paskelbtame straipsnyje rašė: „Sutinku su kitais neseniai išėjusiais darbuotojais, kad šią technologiją kuriančios įmonės nėra pakankamai atsargios.“

„Kompanijai skubant nuo vieno modelio išleidimo prie kito, jai nepavyksta pasiekti to atsargumo lygio, kuris, mano nuomone, yra būtinas“, – pridūrė jis.

Atsakydama į Robinsono straipsnį, „OpenAI“ savo pareiškime teigė, kad „užtikrina, jog mūsų modeliai netaptų galingesni labiau, nei galime saugiai valdyti ir apsaugoti, ir sustabdome mokymą arba atidedame modelių diegimą, kai reikia sulėtinti tempą“.

Įmonė teigė, kad plečia bendradarbiavimą su išorės vertintojais ir stengiasi tobulinti „stebėjimą realiuoju laiku“, kad galėtų anksčiau mokymo procese aptikti ir sustabdyti „keliančią susirūpinimą“ dirbtinio intelekto elgseną.

Kiti šios srities atstovai įspėjo, kad jei Silicio slėnis turės pristabdyti dirbtinio intelekto plėtrą, tai gali leisti tarptautiniams konkurentams ir piktavaliams aplenkti JAV.

Robinsono pasitraukimas sutampa su dideliu susidomėjimu „OpenAI“ saugos praktika ir personalo politika. Ketvirtadienį įmonė pranešė, kad „atsisveikino“ su trimis tyrėjais, teigdama, jog jie pažeidė dalijimosi konfidencialia informacija taisykles. Johannesas Heidecke, įmonės saugumo vadovas, taip pat pasitraukė iš pareigų šių metų pradžioje.

Savo esė D.Robinsonas šią problemą apibūdino kaip kultūros klausimą, rašydamas: „Šiuo metu reikalingas tam tikras nuolankumo laipsnis, kuris nėra būdingas žmonėms, pasiekusiems sėkmę dėl savo ypatingo pasitikėjimo savimi.“

Po plačiai nuskambėjusio „Hugging Face“ saugumo pažeidimo „OpenAI“ susiduria su kitais saugumo incidentais, kurių metu, kaip teigia įmonė, jos DI modeliai elgėsi netinkamai.

„Aplinka, kurioje gali įvykti tokie dalykai, nėra tinkama vieta ugdyti dirbtinius protus, kurie galėtų būti protingesni už mus ir kurie gali elgtis ne taip, kaip mes norime“, – rašė Robinsonas.

Modelio galimybių pažanga paskatino tyrėjus ir įmonių vadovus raginti sulėtinti dirbtinio intelekto plėtrą. „OpenAI“ generalinis direktorius Samas Altmanas antradienį vykusioje įmonės kūrėjų konferencijoje teigė, kad saugumas ir suderinamumas turi būti prioritetiniai, palyginti su modelio galimybėmis.

Rugsėjo pradžioje Robinsonas „X“ tinkle parašė, kad, jo nuomone, „OpenAI“ darbuotojai pradeda suvokti itin galingų dirbtinio intelekto modelių pasekmes, ir taip pat išreiškė tam tikrų abejonių.

„OpenAI“ padėtis „iš tiesų kasdien smarkiai keičiasi, bet nežinau, ar mes keičiamės pakankamai greitai“, – rašė jis „X“ tinkle.

Žurnale „The Atlantic“ jis rašė, kad „sprendimą palikti įmonę priėmiau ne lengvai“ ir kad, jo nuomone, Dirbtinis intelektas „gali būti naudingas ir vertingas“.

Robinsonas taip pat sakė, kad pasamdė viešųjų ryšių agentūrą, tačiau pridūrė, kad sprendimas viešai pasisakyti buvo tik jo paties – šiuo pareiškimu jis tikriausiai siekė užgniaužti spekuliacijas, kad jis ir kiti, palikę didžiąsias technologijų įmones ir raginantys sulėtinti DI plėtrą, yra suderintos išorinės kampanijos dalis.