infa.lt

„Alphabet” („Google” patronuojančioji bendrovė) atleido vyresnįjį programinės įrangos inžinierių Blake Lemoine, kuris anksčiau teigė, kad „Transformer” giliojo neuronų tinklo architektūra paremtas pokalbių robotas LaMDA turi sąmonę, praneša „Reuters”. Visi bendrovės bandymai įtikinti Lemoine’ą savo išvadų klaidingumu nuėjo perniek – kūrėjas, kuris anksčiau nebuvo įsivėlęs į jokius profesinius konfliktus, ir toliau atkakliai tvirtina, kad „Google” neuroninis tinklas turi savimonės užuomazgų.

Atleidimo priežastis buvo ta, kad Lemoine’as pažeidė bendrovės taisykles atskleisdamas vidaus duomenis. „Google” taip pat pripažino jo pretenzijas LaMDA atžvilgiu nepagrįstomis.

„Gaila, kad nepaisant ilgų diskusijų šiuo klausimu, „Blake” ir toliau atkakliai pažeidinėja aiškias veiklos ir duomenų saugumo taisykles, įskaitant būtinybę apsaugoti informaciją apie gaminį”, – teigė „Google” atstovas spaudai.

LaMDA (Language Model for Dialogue Applications) – tai diskusijų kanalų pokalbių robotas, pagrįstas „Google Research” neuroniniu tinklu „Transformer”. Jis gali kalbėtis „begale temų”, taip pat konkrečiai ir protingai reaguoti į sudėtingas užuominas.

„Google” tinklaraščio pranešime teigiama, kad bendrovė vis dar testuoja robotą, kad įsitikintų, jog jis vadovaujasi faktais ir neskleidžia šališkos ar klaidinančios informacijos.

Blake Lemoine buvo dirbtinio intelekto kūrimo padalinio „Google Responsible AI” darbuotojas. Jis testavo LaMDA, kad patikrintų, ar dirbtinis intelektas naudoja diskriminacinę ar neapykantos kalbą. Kalbėdamas su botu apie religiją, jis pastebėjo, kad LaMDA kalba apie savo teises, tapatybę ir baimes.

Lemoine’as surinko argumentus, kad dirbtinis intelektas turi savo sąmonę, ir perdavė šią informaciją „Google” vadovybei, tačiau ji jo argumentus atmetė, todėl programuotojas nusprendė juos paviešinti. Iš pradžių jis buvo išleistas apmokamų atostogų, o paskui atleistas.

Bendrovė teigė, kad atliekant išsamų tyrimą LaMDA atžvilgiu – įtarimai nepasitvirtino. „Mūsų komanda, įskaitant etikos ir technologijų ekspertus, išnagrinėjo Blake’o nuogąstavimus pagal mūsų dirbtinio intelekto principus ir pasakė jam, kad įrodymai nepagrindžia jo teiginių. Jam buvo pasakyta, kad nėra jokių įrodymų, jog LaMDA yra protinga (ir daugybė įrodymų, kad ji nėra protinga)”, – sakė „Google” atstovas spaudai Brianas Gabrielis.

Ankstesniame pranešime apie šią istoriją buvo papasakota smulkiau, esą dirbtinis intelektas paprašė surasti jam advokatą, ką Blake Lemoine ir padarė. Robotas kalbėjosi su advokatu jo namuose. Plačiau apie tai…