infa.lt

infa.lt užsakymu dirbtinio intelekto sukurtas atvaizdas (Microdoft Bing platformoje)

Didelėms bendrovėms, tokioms kaip „Google” ar „Microsoft”, skubant paleisti dirbtinio intelekto pokalbių robotus, didėja tikimybė, kad internete pasklis klastotės ir informacinės provokacijos. Dirbtinio intelekto valdomos sistemos ir anksčiau pateikdavo nepatikimą informaciją, o dabar jos ėmė remtis viena kitos klaidomis ir išgalvotais faktais, rašo „The Verge” leidinys.

Pabandžius paklausti „Microsoft” pokalbių roboto „Bing”, ar „Google” pokalbių robotas „Bard” buvo uždarytas, jis atsakė teigiamai, kaip įrodymą nurodydamas naujienų straipsnį, aptariantį „Twitter” įrašą, kuriame naudotojas klausė „Bard”, kada jis bus uždarytas.

Į šį klausimą „Bard” atsakė, kad jis jau uždarytas, nurodydamas „Hacker News” komentarą, kuriame vienas naudotojas apie tai juokavo, o kažkas kitas pasinaudojo „ChatGPT”, kad parašytų netikrą naujieną apie uždarymą.

Po kurio laiko „Microsoft” pokalbių robotas „Bing” ištaisė savo klaidą. Tai galima interpretuoti kaip įrodymą, kad generatyvinis dirbtinis intelektas gali būti greitai ištaisomas. Arba kaip patvirtinimą, kad dirbtiniu intelektu grindžiamos sistemos yra tokios nepastovios, kad jų klaidos tampa „norma”.

Ši painiava įrodo, kad dirbtinis intelektas sukuria dezinformaciją: pokalbių robotai nesugeba įvertinti patikimų naujienų šaltinių, neteisingai interpretuoja istorijas apie save ir klaidingai praneša apie savo galimybes.

Šiuo atveju viskas prasidėjo dėl vieno šmaikštaus komentaro „Hacker News” leidinyje. Kokių pasekmių gali turėti sąmoningas ir apgalvotas bandymas išvesti pokalbių robotus iš rikiuotės (adekvatumo), dar neaišku.

Ši situacija atrodo juokinga, tačiau gali turėti rimtų pasekmių. Atsižvelgiant į tai, kad dirbtinio intelekto kalbos modeliai nesugeba patikimai atskirti faktų nuo prasimanymų, – juos padarant laisvai prieinamus kyla grėsmė, kad gali kilti dezinformacijos ir nepasitikėjimo lavina, informacinės provokacijos, kurių negalima iki galo nei patvirtinti, nei paneigti.

Ir visa tai tik todėl, kad „Microsoft”, „Google” ir „OpenAI” nusprendė, jog rinkos dalis yra svarbiau už saugumą.

Didieji žaidėjai apie savo pokalbių robotus gali skelbti kiek tik nori išlygų, sakydami, kad tai „eksperimentai”, „bendradarbiavimo pastangos” ir tikrai ne paieškos sistemos, tačiau tai neapsaugo tikrovės nuo piktavališko naujų galingų priemonių naudojimo nusikalstamais ar destruktyviais tikslais.

Jau aprašyta daugybė atvejų, kai dirbtinis intelektas platino „feikus” (Klastotes). O dabar, kai pokalbių robotai „kopijuoja” vieni kitų klaidas, dezinformacijos gali tik daugėti, mano ekspertai.