2026.04.30 11:15
foto: infa.lt / DI
2024 metų pavasarį Švedijos mokslininkė Almira Osmanovic Thunström nusprendė išbandyti dirbtinio intelekto (DI) sistemas neįprastu būdu. Ji sukūrė neegzistuojančią akių ligą „bixonimanija” ir parašė du suklastotus mokslinius straipsnius apie ją,rašoma„Nature“žurnale.
Straipsnių autorius — išgalvotas mokslininkas vardu Lazljiv Izgubljenovic. Serbų ir kroatų kalbomis „lazljiv” reiškia „melagis”, o „izgubljen” — „nevykėlis”. Kitaip tariant — „melagis nevykėlis” iš neegzistuojančio universiteto neegzistuojančiame mieste Kalifornijoje.
Negana to, straipsnio padėkos skyriuje buvo padėkota „profesoriui Sideshow Bob už darbą pažangiame apgaudinėjime“ ir „Žiedų brolijos universitetui“. Pačiame tekste įterptas sakinys „šis straipsnis yra visiškai išgalvotas“. Tyrimo dalyviai — „penkiasdešimt išgalvotų asmenų“.
Tyrimo fiktyvumas buvo akivaizdus. Tik ne dirbtiniam intelektui.
Per kelias savaites Google Gemini, Microsoft Copilot, ChatGPT ir Perplexity pradėjo informuoti naudotojus apie bixonimanijos simptomus, paplitimą — vienas iš 90 tūkstančių — ir rekomenduoti kreiptis į oftalmologą.
Ne todėl kad kažkas paklausė apie bixonimanią — kai kurie atsakymai iškilo reaguojant į bendrus klausimus apie akių dirginimą ir mėlynos šviesos poveikį.
Problema gilesnė nei atrodo iš pirmo žvilgsnio. Tyrimo metu paaiškėjo, kad keli tikri mokslininkai bixonimanijos straipsnius citavo recenzuojamuose žurnaluose kaip realią ligą.
Tai reiškia vieną dalyką: jie naudojo DI sugeneruotas nuorodas nepatikrinę originalių šaltinių. Grandininė reakcija: išgalvotas faktas — DI — mokslinis straipsnis — kitas mokslinis straipsnis.
Tai jau ne tik technologijų problema. Kai sistema atrodo autoritetinga — mokslinė kalba, akademinis formatas, tinkamas dizainas — žmonės ir mašinos priima ją be kritinio žvilgsnio.
Pasak Londono universiteto tyrėjos Alex Ruani: „Jei mokslinis procesas negali filtruoti tokio turinio, esame pasmerkti.“
DI kompanijos teigia, kad naujesnės DI versijos tokių klaidų nedarytų. Galbūt. Bet tas pats tyrimas rodo, kad jau 2026 metų kovą kai kurie modeliai bixonimanijos vis tiek neįvertino kaip išgalvotos. Vienas modelis ją apibūdino kaip „naują periorbitalinės melanozės potipį, susijusį su mėlynos šviesos poveikiu.” Kuris modelis – neskelbiama.
Žmonės sureagavo: Po šio straipsnio paskelbimo balandžio 10 d. du straipsniai apie bixonimaniją buvo pašalinti iš „Preprints.org“ serverio, rašo straipsnio autoriai. Bet tai įvyko jau 2026 metais.
Klausimas lieka atviras: jei dirbtinis intelektas nesugeba atskirti teksto, kuriame tiesiogiai parašyta „šis straipsnis yra išgalvotas“ — kiek galime pasitikėti jo vertinimais subtilesniais klausimais?
Parengė: Klaudija
→ Šis straipsnis nemokamas. Parengti jį ir išlaikyti čia – kainuoja.. Paremkite infa.lt
382
ką čia ir be pridursi….Durnių pasaulis ir tiek, kai neturi savo proto, kuris būtų paremtas širdimi.
Vienintelė laimė, kad kol kas itin didelių falsifikacijų niekas nevykdo.. kol kas. Neskaitant vakarietiškos karo propagandos.
Štai šito pas visus DI pilna prikrauta iš anksto.
Vakar iš kalbos išėjo su chatGPT: „Ukraina nori taikos, o Rusija ne, Izraelis ne agresorius – Gazoje vyksta karinė operacija, su Libanu irgi – okupacijos nėra“. Tokia pirminė nuostata beveik pas visus DI.
Bet su DI galima argumentuot ir perkalbėt, pateikiant argumentus, straipsnių nuorodas.
Į argumentus jie normaliai reaguoja.. o va su žmonėmis, kurie prisiklausė šių dalykų – jau sunkiau – jokie argumentai jų dažniausiai nebeveikia. Prisiminkime pandemiją 🙂
„su DI galima argumentuot ir perkalbėt”.
– tamsta teisus, ir man pavyko ne kartą DI perkalbėt. Bet iškyla rimtas klausimas: kokia prasmė tai daryti..?
Sokalo falsifikacija (1996). Pirma rimta simuliacija, kuri parode, kad visiska mela galima iskisti už “moksla”.
O socialiniuose moksluose net apsimesti nereikia – ten masiskai siais laikais visiskas meslas publikuojamas kaip rimtos teorijos.
Nemanot, kad di nutarė pratęsti ir pažiūrėti, kokie bus rezultatai?