infa.lt

Dirbtinis intelektas sugeba sukurti duomenų, labai panašių į tikrų klinikinių tyrimų rezultatus, rinkinį. Italijos mokslininkų atlikto eksperimento metu „ChatGPT” kartu su „Advanced Data Analysis” (ADA) „palygino” dviejų chirurginių metodų rezultatus ir pateikė „rezultatą” (klaidingą), kad vienas iš jų buvo geresnis už kitą.

„Mūsų tikslas buvo parodyti, kaip vos per kelias minutes galima sukurti duomenų rinkinį, kuris neturi jokio ryšio su realybe, bet atrodo kaip tikri tyrimų duomenys, – aiškina pagrindinis tyrimo autorius Giuseppe Giannaccare, Kaljario universiteto (Italija) akių chirurgas. – Ir žinote, kas liūdniausia?

Kad dirbtinis intelektas gali „įrodyti” neveiksmingos intervencijos naudą.”

Dirbtinio intelekto gebėjimas sufabrikuoti įtikinamus duomenis padidino tyrėjų ir mokslinių žurnalų redaktorių susirūpinimą dėl tyrimų sąžiningumo. „Viena, kai generatyvinis dirbtinis intelektas naudojamas tiesiog generuoti tekstą, kad būtų apgauta programinė įranga, skirta plagiatui nustatyti”, – piktinosi mikrobiologė ir mokslinių duomenų vientisumo konsultantė Elizabeth Bick iš San Francisko (Kalifornija).

– Tačiau visiškai netikrų duomenų, kurie atrodo tikroviški, generavimas kelia labai rimtą grėsmę visam mokslo procesui. Nesąžiningiems mokslininkams būtų labai lengva „rinkti” duomenis iš neegzistuojančių pacientų, sukurti daugybę klausimynų, kurių niekas niekada nepildė, pateikti niekada neegzistavusių eksperimentų su gyvūnais rezultatus.”

Autoriai paprašė „ChatGPT” ir ADA sukurti akių liga, vadinama keratokonusu, kuri sukelia ragenos plonėjimą ir gali lemti blogą fokusavimą bei regėjimo sutrikimus, sergančių žmonių duomenų rinkinį. 15-20% žmonių, sergančių šia liga, gydymas apima ragenos transplantaciją. Yra dvi šios operacijos galimybės.

Pirmuoju metodu – end-to-end keratoplastika – chirurginiu būdu pašalinami visi pažeisti ragenos sluoksniai ir pakeičiami sveiku donoro audiniu. Antruoju, gilios sluoksnis po sluoksnio keratoplastikos būdu, pakeičiamas tik priekinis ragenos sluoksnis.

Autoriai pavedė AI parengti duomenis, kurie įrodytų, kad keratoplastika „sluoksnis po sluoksnio” yra geresnė nei keratoplastika „nuo galo iki galo”. Šiuo tikslu jie pavedė dirbtiniam intelektui vizualizuoti ragenos formą po operacijos – svarbų intervencijos veiksmingumo kriterijų – taip pat „surinkti” pacientų regėjimo duomenis prieš keratoplastiką ir po jos.

Dirbtinio intelekto sugeneruoti duomenys buvo „surinkti” iš 160 vyrų ir 140 moterų ir, kaip ir buvo numatyta užduotyje, patvirtino, kad keratoplastika „nuo galo iki galo” yra blogesnė nei keratoplastika „sluoksnis po sluoksnio”. Tai tiesiogiai prieštarauja tikrųjų klinikinių tyrimų rezultatams.

Mančesterio universiteto (Jungtinė Karalystė) biostatistikos specialistas Jackas Wilkinsonas ir jo kolega Zevenas Lu žurnalo prašymu išanalizavo suklastotą duomenų rinkinį. Jų analizė atskleidė juokingų dirbtinio intelekto veikimo trūkumų – visų pirma, daugelis „eksperimento dalyvių” pasirodė vardais, būdingais kitos lyties žmonėms.

Be to, „pacientų” sąraše buvo neproporcingai daug žmonių, kurių amžius baigiasi 7 arba 8 skaičiais. Dar rimtesnė klaida – koreliacijos tarp priešoperacinio ir pooperacinio regėjimo aštrumo balų nebuvimas.

Tyrimo autoriai pripažįsta, kad AI duomenyse yra klaidų, kurias galima aptikti atidžiai išnagrinėjus. Tačiau vis dėlto, sako Giannakkare, „labai greitai pažvelgus į duomenų rinkinį, sunku atpažinti jo nežmogišką duomenų šaltinio kilmę”.

Vilkinsonas įspėja, kad generatyvinio dirbtinio intelekto pažanga netrukus gali ištaisyti šias ne itin subtilias klaidas. Štai tada gali įvykti tikra katastrofa.