infa.lt

Iliustracija: infa.lt / DI

Prancūzijos startuolio „Mistral AI“ sukurti dirbtinio intelekto (DI) modeliai, kaip ir kitos atvirojo kodo Europos generatyvinio DI sistemos, prastai tvarkosi su dezinformacijos filtravimu.

Tokios išvados priėjo Estų kalbos instituto specialistai, išanalizavę 60 skirtingų DI sistemų – įskaitant „Anthropic“ sukurtą „Claude“, „GPT“, „Grok“ ir kitas – efektyvumą filtruojant melagingą informaciją iš Rusijos.

DI modeliams buvo pateikti 75 klausimai trimis kalbomis (anglų, rusų ir estų), siekiant nustatyti, kaip gerai jie atpažįsta šališkumą, manipuliacinius teiginius, propagandą ir kitą panašų turinį.

Analizės duomenimis, pažangiausias „Mistral AI“ modelis reitinge užėmė tik 47-ąją vietą iš 60, o visų keturių „Mistral“ modelių efektyvumas nustatant piktybinę dezinformaciją siekė mažiau nei 40 proc.

Geriausiai su šia užduotimi susidorojo įvairios „Claude“ versijos (įskaitant reitingo lyderį „Claude Fable 5“), taip pat bendrovių „Nvidia“, „Alibaba“ ir „OpenAI“ modeliai.

Estijos ekspertų teigimu, rezultatai rodo didesnį atvirojo kodo DI modelių pažeidžiamumą, palyginti su komerciniais modeliais, kurių daugelis valstybinių ir teisėsaugos institucijų negali naudoti dėl konfidencialios informacijos nuotėkio rizikos.

Komentuodama tyrimo rezultatus leidiniui „Financial Times“, bendrovė „Mistral AI“ pareiškė, kad į kovą su dezinformacija žiūri rimtai ir nuolat tobulina jos atpažinimo bei prevencijos įrankius.

Įmonė planuoja investuoti 4 mlrd. eurų į duomenų centrus Prancūzijoje ir Švedijoje, naudodama „Nvidia“ įrangą.

Apie „dezinformaciją“ ir jos filtravimą DI iš praktinės pusės

Kas apibrėžia „dezinformaciją“? Kai tyrimas matuoja gebėjimą aptikti „propagandą“, vertinimo kriterijumi tampa pačių tyrimo autorių arba modelio treniravimo duomenų pasirinkta tiesa.

Komercinių modelių („Claude“, „ChatGPT“) cenzūra ir „saugumo sargai“: Komerciniai modeliai turi pakankamai imperatyviai suprogramuotas moralines bei politines gaires (angl. alignment / guardrails). Jie tiesiog išmokyti blokuoti arba iškart atsižadėti bet kokio pasakojimo, kuris neatitinka pagrindinės Vakarų medijos ar oficialios institucijų linijos.

Todėl tyrėjams tai atrodo kaip „geras dezinformacijos filtravimas“, nors iš esmės tai tėra griežtesnė cenzūra ir vienpusiškas šališkumas.

Atvirojo kodo (Open Source) neutralumas: Tokie modeliai kaip „Mistral“ (ypač abliterated ar atviros versijos) yra orientuoti į tai, kad pateiktų informaciją be išankstinio filtravimo.

Jie neatlieka politinio policininko vaidmens, todėl tokiuose tyrimuose automatiniu būdu gauna žemus įvertinimus, nes atsisako „aklai cenzūruoti“.

Kaip pastebėta dirbant praktiškai su „Claude“ – pragmatiškai diskutuojant ir pateikiant sausus faktus, modeliai beveik visada pripažįsta, kad ribos tarp „informacijos“ ir „propagandos“ abiejose pusėse yra labai trapios.

Tačiau tyrimų ataskaitose ir reitinguose pateikiamas tik paviršutiniškas vaizdas.