infa.lt

„OpenAI“ trumpam atidėjo erotinių pokalbių funkcijos paleidimą „ChatGPT“ paslaugoje dėl susirūpinimo jų saugumu ir nepageidaujamo turinio atsiradimo rizikos.

Apie tai praneša „The Wall Street Journal“ leidinys.

Apie galimybę įdiegti tokį režimą dar praėjusiais metais kalbėjo bendrovės vadovas Samas Altmanas. Iš pradžių funkcijos paleidimas buvo planuojamas 2025 m. gruodį, vėliau terminai buvo nukelti į 2026 m. pirmąjį ketvirtį.

Tačiau, kaip pažymi leidinys, dabar aišku, kad ir šio grafiko nebus laikomasi: paleidimas atidėtas mažiausiai mėnesiui.

„OpenAI“ jau anksčiau eksperimentavo su erotinio turinio tekstų generavimu. Dar 2021 m. bendrovė dalyvavo kuriant interaktyvų žaidimą „AI Dungeon“, kuriame naudotojai galėjo patys kurti siužetą.

Tuomet kūrėjai pastebėjo, kad sistema dažnai inicijuoja pokalbius apie seksualinius santykius net ir be atitinkamų žaidėjų užklausų, o bandant nustatyti nuosaikų erotinį dialogo toną, modelis dažnai pereidavo prie atviresnio turinio.

Pastaraisiais mėnesiais bendrovės vadovybė ėmė palankiau žiūrėti į idėją įdiegti erotinius pokalbius, pabrėždama, kad gali būti kalbama tik apie tekstinius pokalbius – be vaizdų ar vaizdo įrašų generavimo.

„OpenAI“ konkurentai taip pat plėtoja panašias sritis. Elonas Muskas pareiškė, kad ateityje pokalbių modelis „Grok“ galės kurti „18+“ kategorijos vaizdo įrašų turinį.

Savo ruožtu bendrovė „Meta“ jau dabar leidžia naudotojams vesti „romantiškus“ vaidmenų žaidimus su pokalbių modeliu, jei jie patvirtina, kad yra pilnamečiai.

Pagrindinė problema „OpenAI“ kompanijai lieka amžiaus patikrinimas. Remiantis bendrovės vidiniais vertinimais, esami mechanizmai maždaug 12% atvejų klaidingai identifikuoja paauglius kaip suaugusiuosius.

Atsižvelgiant į tai, kad tarp „ChatGPT“ naudotojų yra apie 100 mln. nepilnamečių, toks paklaidos lygis gali lemti, kad milijonai paauglių gaus prieigą prie erotinių pokalbių.

Papildomų nuogąstavimų kelia rizika, kad atsiras turinys, pažeidžiantis įstatymus ir visuomenės normas, įskaitant smurto scenarijus ar nepilnamečių paminėjimus. Ekspertai taip pat įspėja apie galimą psichologinės priklausomybės nuo tokių sąveikų susidarymą ir susidomėjimo realiais santykiais sumažėjimą.

Bendrovė svarsto galimybę įdiegti priminimus naudotojams apie būtinybę palaikyti ryšius su realiais žmonėmis.

Nuogastavimai didėja ir dėl pavienių incidentų, susijusių su ilgalaikiu naudotojų bendravimu su išgalvotais pokalbių modelių personažais, įskaitant savižudybių atvejus. Nuo 2021 m. dalis „OpenAI“ darbuotojų priešinasi erotinių pokalbių paleidimui, bijodami, kad kompanija gali tapti tokio turinio platinimo platforma.

Vis dėlto įmonės vadovybė galutinai neatsisakė šio projekto. „OpenAI“ pabrėžia, kad vis dar mano, jog įmanoma paleisti tokias funkcijas suaugusiųjų auditorijai, tačiau pripažįsta, kad saugių mechanizmų kūrimas pareikalaus papildomo laiko.