Prieš daugiau nei savaitę „Google” paskelbė apie „ChatGPT” konkurento, savo pokalbių roboto „Bard”, kurio viena iš funkcijų yra informacijos paieška internete, atsiradimą. Tačiau boto debiutas gavosi nevykęs, kai ekspertai užfiksavo jį padarius faktinę klaidą. Tai tik išryškino rimčiausią dirbtinio intelekto modelių kaip paieškos sistemų naudojimo trūkumą – jie išgalvoja dalykus, kurie neegzistuoja, užtikrintai klaidindami patiklius naudotojus.
Atsakydamas į klausimą „Apie kokius naujus Džeimso Vebbo (James Webb) kosminio teleskopo atradimus galėčiau papasakoti savo 9 metų dukrai?”, pokalbių robotas Bardas išvardijo tris faktus. Pirmiausiai jis nurodė, kad teleskopas „padarė pirmąją planetos, esančios už mūsų Saulės sistemos ribų, nuotrauką”.
Šis teiginys yra neteisingas, į tai, kaip rašo „The Verge”, iš karto atkreipė dėmesį profesionalūs astronomai. Pavyzdžiui, NASA interneto svetainėje rašoma, kad pirmoji egzoplanetos nuotrauka buvo padaryta 2004 m.
Girdamas didžiųjų kalbos modelių pastangas reklamuojant Webb teleskopą, astrofizikas Grantas Trembley pastebėjo, kad pokalbių robotas – „ChatGPT” ir panašūs – dažnai klysta, užtikrintai klaidindami patiklius naudotojus. „Būtų įdomu pamatyti ateitį, kurioje didieji kalbos modeliai patys tikrintų save, ar neklysta”, – rašė jis.
Iš tiesų rimta dirbtinio intelekto pagrindu sukurtų pokalbių robotų problema yra ta, kad jie yra linkę užtikrintai pateikti neteisingą informaciją kaip faktą. Šios sistemos dažnai „fantazuoja”, t. y. išgalvoja dalykus, kurių nėra, nes tokia jų prigimtinė (jei galima taip pasakyti) struktūra – jos buvo sukurtos taip, kad sudarytų tekstus, pateikdamos „tinkamus” žodžius „tinkama” tvarka.
Užuot tikrinę teiginius pagal patikrintų faktų duomenų bazę, jie išmoko suprasti, kokį žodį reikėtų įstatyti tame sakinyje. Kitaip tariant, jų požiūris yra tikimybinis, o ne deterministinis.
Teksto sudarymui toks metodas tinka, tačiau „Microsoft” ir „Google” ketina naudoti dirbtinį intelektą kaip paieškos sistemų įrankį. Tokiu būdu pokalbių robotų-fantazuotojų atsakymai įgis visažinių mašinų autoritetą.
„Google” atstovas spaudai pateikė komentarą: „Tai pabrėžia kruopštaus testavimo proceso svarbą. Šią savaitę kaip tik pradedame patikimo testavimo (Trusted Tester) programą.
Derinsime atgalinį ryšį su savo vidiniais bandymais, kad užtikrintume, jog „Bard” pasiekė aukštą kokybės, saugumo ir patikimumo lygį teikiant faktinę informaciją.”
→ PAREMKITE mus savo 1,2 proc. GPM, kas jums nieko papildomai nekainuos. Ačiū labai. → Naujienlaiškis
guglas net lietuvisko TTS dar nesukures! Ka ten apie DI bekalbeti?