infa.lt

„”Google” ir „Microsoft” pokalbių robotai skleisdami „feikus” pradėjo remtis vienas kitu

INFA.LT
2023.03.25 14:00
Dirbtinio intelektas

infa.lt užsakymu dirbtinio intelekto sukurtas atvaizdas (Microdoft Bing platformoje)

Didelėms bendrovėms, tokioms kaip „Google” ar „Microsoft”, skubant paleisti dirbtinio intelekto pokalbių robotus, didėja tikimybė, kad internete pasklis klastotės ir informacinės provokacijos. Dirbtinio intelekto valdomos sistemos ir anksčiau pateikdavo nepatikimą informaciją, o dabar jos ėmė remtis viena kitos klaidomis ir išgalvotais faktais, rašo „The Verge” leidinys.

Pabandžius paklausti „Microsoft” pokalbių roboto „Bing”, ar „Google” pokalbių robotas „Bard” buvo uždarytas, jis atsakė teigiamai, kaip įrodymą nurodydamas naujienų straipsnį, aptariantį „Twitter” įrašą, kuriame naudotojas klausė „Bard”, kada jis bus uždarytas.

Į šį klausimą „Bard” atsakė, kad jis jau uždarytas, nurodydamas „Hacker News” komentarą, kuriame vienas naudotojas apie tai juokavo, o kažkas kitas pasinaudojo „ChatGPT”, kad parašytų netikrą naujieną apie uždarymą.

Po kurio laiko „Microsoft” pokalbių robotas „Bing” ištaisė savo klaidą. Tai galima interpretuoti kaip įrodymą, kad generatyvinis dirbtinis intelektas gali būti greitai ištaisomas. Arba kaip patvirtinimą, kad dirbtiniu intelektu grindžiamos sistemos yra tokios nepastovios, kad jų klaidos tampa „norma”.

Ši painiava įrodo, kad dirbtinis intelektas sukuria dezinformaciją: pokalbių robotai nesugeba įvertinti patikimų naujienų šaltinių, neteisingai interpretuoja istorijas apie save ir klaidingai praneša apie savo galimybes.

Šiuo atveju viskas prasidėjo dėl vieno šmaikštaus komentaro „Hacker News” leidinyje. Kokių pasekmių gali turėti sąmoningas ir apgalvotas bandymas išvesti pokalbių robotus iš rikiuotės (adekvatumo), dar neaišku.

Ši situacija atrodo juokinga, tačiau gali turėti rimtų pasekmių. Atsižvelgiant į tai, kad dirbtinio intelekto kalbos modeliai nesugeba patikimai atskirti faktų nuo prasimanymų, – juos padarant laisvai prieinamus kyla grėsmė, kad gali kilti dezinformacijos ir nepasitikėjimo lavina, informacinės provokacijos, kurių negalima iki galo nei patvirtinti, nei paneigti.

Ir visa tai tik todėl, kad „Microsoft”, „Google” ir „OpenAI” nusprendė, jog rinkos dalis yra svarbiau už saugumą.

Didieji žaidėjai apie savo pokalbių robotus gali skelbti kiek tik nori išlygų, sakydami, kad tai „eksperimentai”, „bendradarbiavimo pastangos” ir tikrai ne paieškos sistemos, tačiau tai neapsaugo tikrovės nuo piktavališko naujų galingų priemonių naudojimo nusikalstamais ar destruktyviais tikslais.

Jau aprašyta daugybė atvejų, kai dirbtinis intelektas platino „feikus” (Klastotes). O dabar, kai pokalbių robotai „kopijuoja” vieni kitų klaidas, dezinformacijos gali tik daugėti, mano ekspertai.

→ Šis straipsnis nemokamas. Parengti jį ir išlaikyti čia – kainuoja.. Paremkite infa.lt

→ Naujienlaiškis

→ Visa naujienų juosta >>

žiūrėjo 257

Žymos:

Komentarų: 0

Rašyti komentarą


Taip pat skaitykite:

Naujienlaiškio Prenumerata


Laikrodis

Apklausa

Ar pritariate visuotiniam privalomos karo tarnybos įteisinimui?


Rodyti rezultatus

Loading ...

Kūno masės ir ūgio indekso (KMI) apskaičiavimas

    Algimantas Rusteika. Politinė neviltis – kaip prekė

Algimantas Rusteika. Politinė neviltis – kaip prekė

komentarai 3 Skaityti visą įrašą
    Europos Sąjunga ekskomunikuoja savo piliečius: sankcijos be teismo, be kaltinimo, be vilties

Europos Sąjunga ekskomunikuoja savo piliečius: sankcijos be teismo, be kaltinimo, be vilties

komentarai 4 Skaityti visą įrašą
    Jolanta Blažytė. Taika per stiprybę ar karas per trydą?

Jolanta Blažytė. Taika per stiprybę ar karas per trydą?

komentarai 2 Skaityti visą įrašą
    Gintaras Furmanavičius.  Kokie reikalai su Krymo tiltu?

Gintaras Furmanavičius. Kokie reikalai su Krymo tiltu?

Komentarų: 1 Skaityti visą įrašą
    Kiek gyvenimo atiduodame mokesčiams

Kiek gyvenimo atiduodame mokesčiams

komentarai 2 Skaityti visą įrašą
    Tęsinys: Informacinis badas, augimo iliuzija ir sisteminis disonansas

Tęsinys: Informacinis badas, augimo iliuzija ir sisteminis disonansas

komentarai 3 Skaityti visą įrašą
    Algimantas Rusteika. Labas rytas, Lietuva

Algimantas Rusteika. Labas rytas, Lietuva

Komentarų: 0 Skaityti visą įrašą
    Algimantas Rusteika. Lietuvio vidinis monologas (Metai iki pirmojo pogromo)

Algimantas Rusteika. Lietuvio vidinis monologas (Metai iki pirmojo pogromo)

komentarai 3 Skaityti visą įrašą
    Linas Karpavičius. Dar kartą apie didžiausią, bet ne vienintelį dirbtinai sukurtą mitą.

Linas Karpavičius. Dar kartą apie didžiausią, bet ne vienintelį dirbtinai sukurtą mitą.

Komentarų: 1 Skaityti visą įrašą
    Apie „piktą raganą, miegančiąją gražuolę ir „gerąją fėją“ (alegorija)

Apie „piktą raganą, miegančiąją gražuolę ir „gerąją fėją“ (alegorija)

komentarai 2 Skaityti visą įrašą
    Gintaras Furmanavičius. Apie žymiausio Lietuvos anūko veiklos palikimą

Gintaras Furmanavičius. Apie žymiausio Lietuvos anūko veiklos palikimą

komentarai 3 Skaityti visą įrašą
    Įstatymas nevaisingų porų vardu – toms, kurios nėra nevaisingos. Partnerystė pro šonines duris

Įstatymas nevaisingų porų vardu – toms, kurios nėra nevaisingos. Partnerystė pro šonines duris

Komentarų: 1 Skaityti visą įrašą
    Valdžia efektyvina privataus verslo [su]valdymą: Pinigų užteks visiems!

Valdžia efektyvina privataus verslo [su]valdymą: Pinigų užteks visiems!

komentarai 3 Skaityti visą įrašą

Jei išėjus ima lyti, Rusas kaltas čia, brolyti! Jei premjeras nupindėjęs, kaltas rusas niekadėjas. Jeigu...

taigi, keičiasi epocha, pati sistema griūva, globalizmas braška - nereikės jų versti, patys subyrės... ateis...

tai dar vadinasi darbas svetimos valstybes labui. isdavyste, ir piktybinis kenkimas. ir kas toliau? nieko....

visos reprodukcines teises dabar yra moters rankose. tik jos sprendzia su kuom gultis i lova,...

V

kazkokie kliedesiai. susirenka psichiniai loigoniai ir kliedi. ir kodel juos vadina lyderiais? taigi padugnės ir...

Hmm

Gal būtų ir nieko, bet kiek Vėgėlė blaškėsi per partijas ir vis jam kažkas negerai,...

Čia ką jie planuoja, dar nereiškia, kad tas planas bus įgyvendintas, nes iki 28-jų pačios...