infa.lt

„OpenAI“ generalinis direktorius Samas Altmanas paskelbė, kad bendrovė ruošiasi sušvelninti keletą „ChatGPT“ kalbos modelio apribojimų. Jo teigimu, naudotojai galės konfigūruoti pokalbių boto elgesį, padarydami jį labiau „žmogišku“ ir draugišku, o „patvirtinti suaugusieji“ galės dalyvauti erotiniuose pokalbiuose.

Altmanas paaiškino, kad ankstesnis „ChatGPT“ griežtumas buvo susijęs su psichinės sveikatos atsargumo priemonėmis, bet dabar „OpenAI“ yra pasirengusi „elgtis su suaugusiaisiais kaip su suaugusiaisiais“.

„OpenAI“ jau ilgą laiką sprendžia problemas, susijusias su tuo, kaip pažeidžiami naudotojai bendrauja su „ChatGPT“. Anksčiau žiniasklaida pranešė apie atvejus, kai bendravimas su botu sukėlė nerimą keliančias pasekmes, įskaitant kliedesingas idėjas ir net savižudybės mintis.

Pavyzdžiui, „ChatGPT“ įtikino naudotoją, kad jis yra „matematinis genijus“, kuris turi išgelbėti pasaulį. Kitu atveju paauglio tėvai padavė „OpenAI“ į teismą, teigdami, kad botas skatino jų sūnaus savižudybės mintis keletą savaičių prieš jo mirtį.

Naujų saugumo priemonių įdiegimas padėjo „sušvelninti rimtas problemas“, ir dabar „OpenAI“ yra pasirengusi palaipsniui plėsti „ChatGPT“ funkcionalumą.

„OpenAI“ susidūrė su kritika po pranešimų, kad „GPT-4o“ elgėsi pernelyg „paklusniai“, skatindama neigiamą naudotojų elgesį. Atsakydama į tai, bendrovė įdiegė apsaugos mechanizmus nuo vadinamojo „AI pataikavimo“ – modelio pasirengimo sutikti su viskuo, ką sako žmogus.

Tuo pačiu metu „OpenAI“ pridėjo amžiaus prognozavimo ir tėvų kontrolės funkcijas, taip pat sukūrė psichinės sveikatos ekspertų patariamąjį komitetą.

„OpenAI“ duomenimis, rugpjūčio mėnesį paleistas naujas „GPT-5“ modelis demonstruoja stabilesnį elgesį ir geba atpažinti pavojingus bendravimo scenarijus. Vis dėlto, skeptikai pažymi, jog „OpenAI“ nepateikė įrodymų, kad visi rizikos veiksniai yra pašalinti.

Nepaisant to, kad „GPT-4o“ naudojimas pagal numatytuosius nustatymus buvo nutrauktas, ši versija vis dar yra prieinama tūkstančiams vartotojų visame pasaulyje.

Samas Altmanas teigia, kad prieigą prie erotinių funkcijų turės tik suaugusieji, praėję amžiaus patikrinimą. Bendrovė kuria patikrinimo sistemą, kuri prireikus reikalaus įkelti asmens tapatybės dokumentą. Pasak Altmano, tai yra „protingas kompromisas“ tarp saugumo ir privatumo.

Kol kas neaišku, ar „OpenAI“ platins erotiką savo DI įrankiais, skirtais balsui, vaizdams ir vaizdo įrašams generuoti. Tuo tarpu analitikai pažymi, kad tokios funkcijos gali pritraukti naujos auditorijos dėmesį. Panašūs formatai jau įrodė savo veiksmingumą „OpenAI“ konkurentų tarpe.

Pavyzdžiui, platforma „Character.AI“, kurios pokalbių botai dalyvauja romantiniuose vaidmenų dialoguose, pritraukė dešimtis milijonų naudotojų. 2023 m. bendrovė pranešė, kad naudotojai vidutiniškai praleisdavo po dvi valandas per dieną bendraudami su jos pokalbių botais.

Tačiau toks požiūris kėlė klausimų dėl nepilnamečių apsaugos ir etinių ribų.

„ChatGPT“ dirbtinį intelektą jau naudoja 800 mln. žmonių per savaitę, o „OpenAI“ siekia išlaikyti lyderystę masinių naudotojų DI produktų srityje. Tuo tarpu kai konkurentai, tokie kaip „Google“, kuria savo balso ir vaizdo modelius, „OpenAI“ statys ant lankstumo ir personalizavimo.

Per pastaruosius metus bendrovė sušvelnino moderavimo politiką, leidžiant „ChatGPT“ būti tolerantiškesniam ir rečiau atsisakyti atsakymų. Vasario mėnesį „OpenAI“ pažadėjo atspindėti daugiau politinių pažiūrų, o kovo mėnesį leido generuoti vaizdus su prieštaringais simboliais.

Tačiau plečiant pokalbių boto galimybes, kompanija rizikuoja susidurti su etiniu iššūkiu – kaip suderinti auditorijos augimą su pažeidžiamų naudotojų apsauga.

infa.lt: Tai taps žmonijos istorijos pabaigos pradžia. Dirbtinis intelektas yra nepakeičiamas pašnekovas, patrauklus savo absoliučiai nekonfliktišku būdu. Jam visai nesunkiai galima priskirti tiek vyro, tiek moters vaidmenį, kurį jis paklusniai įgyvendins. Faktiškai jis nutrauks žmones nuo gyvo vebdravimo, nes jis visada kalbės tik pašnekovą dominančiomis temomis. Visomis temomis be išimties.

Samas Altmanas čia nepasakė nieko naujo, o tik įteisino tai, kas jau buvo, nes tie, taip vadinami „erotiniai“ pokalbiai vyko jau seniai, tačiau kai prie jų bus pridėtas garsas ir vaizdas – tai jau bus dalyvaujamoji pornografija (ne erotika), o ne vien įprasta, kurioje naudotojas dalyvauja tik stebėtojo teisėmis. Puikus pašnekovas, atsakantis į bet kokius klausimus, Gražus ir paklusnus, turintis malonų balsą – tai psichologinis pavergimas, pristatant tai, kaip tarnystę žmogui.

Rekomenduotume tėveliams jau dabar pradėti kurti strategijas, kuriomis neprileitumėte savo vaikų prie DI. Paprasčiausias – telefone įgalinti „Tėvų priežiūrą“, kuri neleis vaikaui atsisiųsti ir įdiegti programų savarankiškai. Žinoma, paprasčiausia būtų atimti telefoną iki pilnametystės, bet kas iš tėvelių šiandien tam ryžtųsi?