infa.lt

Foto: infa.lt / DI

Dirbtinio intelekto (DI) proveržis į kasdienę informacijos paiešką atnešė ne tik patogumą, bet ir nenumatytas pasekmes, už kurias kompanijoms tenka mokėti milijonines išmokas.

Kanados smuikininko-virtuozo Ashley MacIsaac atvejis tapo ryškiu pavyzdžiu, kaip „Google“ įrankis „AI Overview“, generuodamas informaciją, gali negrįžtamai pažeisti žmogaus reputaciją.

Faktai prieš algoritminę kūrybą

Smuikininkas kreipėsi į teismą po to, kai DI sukurtoje biografinėje apžvalgoje jis buvo klaidingai įvardintas kaip asmuo, įtrauktas į seksualinių nusikaltėlių registrą, praneša „The Guardian“ leidinys.

Kaip teigiama ieškinyje, „AI Overview“ rengiamoje trumpoje informacijoje apie muzikantą buvo pateikiama informacija apie tariamai jo padarytus daugybę nusikaltimų, įskaitant seksualinio pobūdžio nusikaltimus.

Ieškovo teigimu, „Google“ dirbtinio intelekto įrankis nurodo, kad muzikantas visam gyvenimui įtrauktas į Kanados nacionalinį seksualinių nusikaltėlių registrą.

Dėl šios klaidingos informacijos muzikantas prarado kontraktus, buvo atsisakyta kai kurių jo koncertų ir jis patyrė tiesioginių finansinių nuostolių. Nors paaiškėjus tiesai koncertų organizatoriai vėliau atsiprašė, žala reputacijai jau buvo padaryta.

Ši situacija atskleidžia esminę DI problemą – vadinamąsias „haliucinacijas“. Algoritmai, siekdami suformuoti vientisą ir skaitomą tekstą, kartais sujungia nesusijusius faktus, supainioja bendrapavardžius asmenis ar interpretuoja klaidingus šaltinius kaip neginčijamą tiesą.

Kompanijos – savo technologijų įkaitės

Nors ieškinyje iš Google reikalaujama $1,5$ mln. dolerių kompensacijos, akivaizdu, kad pati kompanija neturėjo jokio intereso ar motyvo šmeižti atlikėją. Priešingai – technologijų milžinės šiandien tampa savo pačių sukurtų, itin sudėtingų algoritmų įkaitėmis.

Dirbtinis intelektas veikia autonomiškai, jo „logika“ yra pagrįsta tikimybiniais modeliais, o ne faktiniu tiesos suvokimu. Kai tokie įrankiai pateikiami kaip patikimi informacijos šaltiniai, kyla rizika ne tik naudotojui, bet ir pačiai bendrovei, kuri praranda tiek finansus, tiek naudotojų pasitikėjimą.

Pasitikėjimo krizė

Šis incidentas rodo, kad DI vis dar trūksta esminio saugiklio – kritinio informacijos vertinimo filtrų, kuriuos turi žmogus-redaktorius. Kol algoritmai nesugebės atskirti faktinės tiesos nuo statistinės tikimybės, tokios „skaitmeninės klaidos“ bus ne tik teisinė našta technologijų bendrovėms, bet ir rimtas perspėjimas visai informacinei erdvei.

Galiausiai, nukentėjusiomis pusėmis tampa visi: žmogus, kurio gyvenimas aprašomas klaidingai, ir kompanija, kurios įrankis, turėjęs padėti, tapo brangiai kainuojančiu nesusipratimu.