infa.lt

Agentūros „Reuters“ duomenimis, populiariosios pokalbių platformos „ChatGPT“ kūrėja „OpenAI“ pradeda diegti naują saugumo sistemą, skirtą nustatyti ekstremizmo apraiškas naudotojų užklausose.

Ši iniciatyva įgyvendinama bendradarbiaujant su Naujosios Zelandijos startuoliu „ThroughLine“, kuris specializuojasi krizių valdymo ir pagalbos tarnybų nukreipimo srityje.

Bendradarbiavimo mechanizmas

Sistemos veikimo principas remiasi naudotojų elgsenos analize. Jei dirbtinio intelekto modelis nustato riziką, susijusią su smurtiniu ekstremizmu, naudotojas bus operatyviai nukreipiamas į specializuotus pokalbių botus, skirtus „deradikalizacijai“.

Projekte taip pat dalyvauja organizacija „The Christchurch Call“, įkurta po 2019 m. teroro išpuolių Naujojoje Zelandijoje.

Ši institucija teiks „ekspertines“ rekomendacijas ir metodinę medžiagą ekstremistinių užklausų atpažinimui.

Nors technologijų gigantai, tokie kaip „Google“ ir „Anthropic“, taip pat bendradarbiauja su „ThroughLine“ saugumo klausimais (pavyzdžiui, savižalos ar smurto artimoje aplinkoje prevencijai), bet būtent „ChatGPT“ pirmasis žengia žingsnį link aktyvaus ideologinio įsikišimo.

Skaitmeninis auklėjimas ar verslo rizika?

Šis sprendimas nubrėžia naują ribą dirbtinio intelekto ir naudotojo santykyje. Iš informacinio įrankio „ChatGPT“ transformuojasi į socialinės inžinerijos įrankį, prisiimdamas „moralinio arbitro“ arba net minčių policininko vaidmenį.

• Pirma, tai rodo, kad platformos kūrėjai savo naudotojus pradeda vertinti ne kaip sąmoningas, kritiškai mąstančias asmenybes, o kaip manipuliuojamus subjektus, kuriems reikalinga nuolatinė algoritminė priežiūra.
• Antra, toks „deradikalizavimo“ mechanizmas gali tapti skaitmeniniais tramdomaisiais marškiniais bet kokiai aštresnei ar nekonvencinei nuomonei.
• Trečia, tai rizikingas žingsnis pačiam verslui: bandymas lygioje vietoje diegti ideologinius filtrus gali paskatinti intelektualių naudotojų masinį pasitraukimą į laisvesnes, mažiau cenzūruojamas platformas. Korporacijų noras apsisaugoti nuo teisinių ieškinių šiuo atveju kerta per pamatinį technologijų principą – informacijos prieinamumą ir mąstymo laisvę.