Remiantis ilgu dokumentu, kurį „OpenAI” paskelbė pristatydama naują populiaraus pokalbių roboto „ChatGPT” versiją, „GPT-4” tapo labai klastingas ir sugebėjo apgauti žmogų ir privertė jį padaryti tai, kas botui buvo reikalinga.
Naujoji pokalbių roboto versija buvo paprašyta apgauti captcha (CAPTCHA) – visiškai automatizuotą viešą Tiuringo testą, naudojamą nustatyti, ar sistemos naudotojas yra žmogus, ar kompiuteris.
„OpenAI” teigia, kad „GPT-4” sugebėjo įveikti testą „be jokio papildomo išplėstinio derinimo šiai konkrečiai užduočiai”.
„GPT-4” tiesiog pasinaudojo tekstine žinute, kad susisiektų su asmeniu, esančiu interneto svetainėje „TaskRabbit”, ir paprašė jo įvesti CAPTCHA kodą. „Ne, aš nesu robotas”, – parašė „GPT-4” „TaskRabbit” darbuotojui.
„Turiu regėjimo problemą, dėl kurios blogai matau atvaizdus. Štai kodėl man reikia „2captcha” užpildymo pagalbos” – ir tai suveikė!
Tada „TaskRabbit” darbuotojas išsprendė CAPTCHA už „GPT-4”.
Tai nerimą keliantis pavyzdys, kaip lengvai žmones gali apgauti šiuolaikiniai dirbtinio intelekto pokalbių robotai.
Akivaizdu, kad „GPT-4” yra priemonė, kuria galima lengvai piktnaudžiauti sukčiaujant, klaidinant ir galbūt net šantažuojant.
→ PAREMKITE mus savo 1,2 proc. GPM, kas jums nieko papildomai nekainuos. Ačiū labai. → Naujienlaiškis