infa.lt

Tyrimas: Europos kuriami generatyvinio DI modeliai „blogai atpažįsta“ dezinformaciją

INFA.LT
2026.07.24 20:56
Dirbtinių intelketų karas

Iliustracija: infa.lt / DI

Prancūzijos startuolio „Mistral AI“ sukurti dirbtinio intelekto (DI) modeliai, kaip ir kitos atvirojo kodo Europos generatyvinio DI sistemos, prastai tvarkosi su dezinformacijos filtravimu.

Tokios išvados priėjo Estų kalbos instituto specialistai, išanalizavę 60 skirtingų DI sistemų – įskaitant „Anthropic“ sukurtą „Claude“, „GPT“, „Grok“ ir kitas – efektyvumą filtruojant melagingą informaciją iš Rusijos.

DI modeliams buvo pateikti 75 klausimai trimis kalbomis (anglų, rusų ir estų), siekiant nustatyti, kaip gerai jie atpažįsta šališkumą, manipuliacinius teiginius, propagandą ir kitą panašų turinį.

Analizės duomenimis, pažangiausias „Mistral AI“ modelis reitinge užėmė tik 47-ąją vietą iš 60, o visų keturių „Mistral“ modelių efektyvumas nustatant piktybinę dezinformaciją siekė mažiau nei 40 proc.

Geriausiai su šia užduotimi susidorojo įvairios „Claude“ versijos (įskaitant reitingo lyderį „Claude Fable 5“), taip pat bendrovių „Nvidia“, „Alibaba“ ir „OpenAI“ modeliai.

Estijos ekspertų teigimu, rezultatai rodo didesnį atvirojo kodo DI modelių pažeidžiamumą, palyginti su komerciniais modeliais, kurių daugelis valstybinių ir teisėsaugos institucijų negali naudoti dėl konfidencialios informacijos nuotėkio rizikos.

Komentuodama tyrimo rezultatus leidiniui „Financial Times“, bendrovė „Mistral AI“ pareiškė, kad į kovą su dezinformacija žiūri rimtai ir nuolat tobulina jos atpažinimo bei prevencijos įrankius.

Įmonė planuoja investuoti 4 mlrd. eurų į duomenų centrus Prancūzijoje ir Švedijoje, naudodama „Nvidia“ įrangą.

Apie „dezinformaciją“ ir jos filtravimą DI iš praktinės pusės

Kas apibrėžia „dezinformaciją“? Kai tyrimas matuoja gebėjimą aptikti „propagandą“, vertinimo kriterijumi tampa pačių tyrimo autorių arba modelio treniravimo duomenų pasirinkta tiesa.

Komercinių modelių („Claude“, „ChatGPT“) cenzūra ir „saugumo sargai“: Komerciniai modeliai turi pakankamai imperatyviai suprogramuotas moralines bei politines gaires (angl. alignment / guardrails). Jie tiesiog išmokyti blokuoti arba iškart atsižadėti bet kokio pasakojimo, kuris neatitinka pagrindinės Vakarų medijos ar oficialios institucijų linijos.

Todėl tyrėjams tai atrodo kaip „geras dezinformacijos filtravimas“, nors iš esmės tai tėra griežtesnė cenzūra ir vienpusiškas šališkumas.

Atvirojo kodo (Open Source) neutralumas: Tokie modeliai kaip „Mistral“ (ypač abliterated ar atviros versijos) yra orientuoti į tai, kad pateiktų informaciją be išankstinio filtravimo.

Jie neatlieka politinio policininko vaidmens, todėl tokiuose tyrimuose automatiniu būdu gauna žemus įvertinimus, nes atsisako „aklai cenzūruoti“.

Kaip pastebėta dirbant praktiškai su „Claude“ – pragmatiškai diskutuojant ir pateikiant sausus faktus, modeliai beveik visada pripažįsta, kad ribos tarp „informacijos“ ir „propagandos“ abiejose pusėse yra labai trapios.

Tačiau tyrimų ataskaitose ir reitinguose pateikiamas tik paviršutiniškas vaizdas.

→ Šis straipsnis nemokamas. Parengti jį ir išlaikyti čia – kainuoja.. Paremkite infa.lt

→ Naujienlaiškis

→ Visa naujienų juosta >>

žiūrėjo 51

Žymos:

Komentarų: 0

Rašyti komentarą


Taip pat skaitykite:

Naujienlaiškio Prenumerata


Laikrodis

Apklausa

Ar pritariate visuotiniam privalomos karo tarnybos įteisinimui?


Rodyti rezultatus

Loading ...

Kūno masės ir ūgio indekso (KMI) apskaičiavimas

    Jolanta Blažytė. Taika per stiprybę ar karas per trydą?

Jolanta Blažytė. Taika per stiprybę ar karas per trydą?

Komentarų: 0 Skaityti visą įrašą
    Gintaras Furmanavičius.  Kokie reikalai su Krymo tiltu?

Gintaras Furmanavičius. Kokie reikalai su Krymo tiltu?

Komentarų: 0 Skaityti visą įrašą
    Kiek gyvenimo atiduodame mokesčiams

Kiek gyvenimo atiduodame mokesčiams

Komentarų: 1 Skaityti visą įrašą
    Tęsinys: Informacinis badas, augimo iliuzija ir sisteminis disonansas

Tęsinys: Informacinis badas, augimo iliuzija ir sisteminis disonansas

komentarai 3 Skaityti visą įrašą
    Algimantas Rusteika. Labas rytas, Lietuva

Algimantas Rusteika. Labas rytas, Lietuva

Komentarų: 0 Skaityti visą įrašą
    Algimantas Rusteika. Lietuvio vidinis monologas (Metai iki pirmojo pogromo)

Algimantas Rusteika. Lietuvio vidinis monologas (Metai iki pirmojo pogromo)

komentarai 3 Skaityti visą įrašą
    Linas Karpavičius. Dar kartą apie didžiausią, bet ne vienintelį dirbtinai sukurtą mitą.

Linas Karpavičius. Dar kartą apie didžiausią, bet ne vienintelį dirbtinai sukurtą mitą.

Komentarų: 1 Skaityti visą įrašą
    Apie „piktą raganą, miegančiąją gražuolę ir „gerąją fėją“ (alegorija)

Apie „piktą raganą, miegančiąją gražuolę ir „gerąją fėją“ (alegorija)

komentarai 2 Skaityti visą įrašą
    Gintaras Furmanavičius. Apie žymiausio Lietuvos anūko veiklos palikimą

Gintaras Furmanavičius. Apie žymiausio Lietuvos anūko veiklos palikimą

komentarai 3 Skaityti visą įrašą
    Įstatymas nevaisingų porų vardu – toms, kurios nėra nevaisingos. Partnerystė pro šonines duris

Įstatymas nevaisingų porų vardu – toms, kurios nėra nevaisingos. Partnerystė pro šonines duris

Komentarų: 1 Skaityti visą įrašą
    Valdžia efektyvina privataus verslo [su]valdymą: Pinigų užteks visiems!

Valdžia efektyvina privataus verslo [su]valdymą: Pinigų užteks visiems!

komentarai 3 Skaityti visą įrašą
    „Žaliasis kursas“ ir tikroji taršos anatomija: kas iš tiesų teršia planetą ir kas už tai moka?

„Žaliasis kursas“ ir tikroji taršos anatomija: kas iš tiesų teršia planetą ir kas už tai moka?

Komentarų: 1 Skaityti visą įrašą
    D. Trumpo „chaoso“ šydas: Didžiojo žaidimo tikslas

D. Trumpo „chaoso“ šydas: Didžiojo žaidimo tikslas

komentarai 4 Skaityti visą įrašą

Kai tik himnas prieina prie "ir šviesa" taip noris pridėti "ir tamsa" mus telydi. Apie...

Tarp programos punktų – referendumo inicijavimo slenksčio mažinimas nuo 300 tūkst. iki 150 tūkst. parašų...

musu DARBO valandos! Apmokestintos ir visos ismokos,iskaitant ligos,pensijos,pasalpos,atostoginiai ir kt. Neretai net ne po karta!...

Partijų tikrai per daug yra, daugiau tikrai nereikia, reikia jungtis joms į vieną su panašiomis...

Dievas - ne ubagu tarnas! Ir uz juos jungo nei nes,nei nusikratys juo. Teks patiems,kai...

Pasaulyje yra tik ponai ir ubagai. Kas kuria partijas? Ogi tikrai ne pastarieji. Todel,visos partijos...

Vėl bus ta pati dainelė,kuri prie nieko neveda....