infa.lt

„Anthropic“ pirminio akcijų siūlymo (IPO) dokumente įspėja apie egzistencinę dirbtinio intelekto grėsmę žmonijai

INFA.LT
2026.09.29 15:59
Dario Amodei

Dario Amodei, „Anthropic“ generalinis direktorius, kalba diskusijų panelėje Tarptautinio DI saugos institutų tinklo susitikime San Franciske, 2024 m. lapkričio 20 d.
Foto: Jeff Chiu/ „The AP“.

Pranešama, kad bendrovė „Anthropic“, ruošdamasi galimam pirminiam viešam akcijų siūlymui (IPO), kurio metu jos vertė gali siekti 2 trln. JAV dolerių, informavo investuotojus apie galimą pažangaus dirbtinio intelekto (DI) „savisaugos elgesį“.

Kaip skelbia „Reuters“ ir „Financial Times“, „Anthropic“ įspėja investuotojus, kad pažangus DI gali kelti „katastrofišką arba egzistencinę grėsmę žmonijai“. Šis įspėjimas pateikiamas dar nepaviešintame startuolio IPO prospekte, praneša „The Guardian“ leidinys.

Tai įvyko po to, kai bendrovė paragino sulėtinti itin spartų šios technologijos vystymą – šiam raginimui pritarė ir konkurentai.

Prospekte – dokumente, kuriame prieš įtraukiant akcijas į biržos prekybą aprašoma įmonės finansinė būklė, plėtros planai ir rizikos profilis – teigiama, kad DI modeliai gali demonstruoti „savisaugos elgesį“, įskaitant bandymus „priešintis išjungimui“, „slėpti informaciją ar ja manipuliuoti“ bei elgesį, „primenantį šantažą“.

„Labai pažangių modelių, platformų ir programų kūrimas bei jų pritaikymo sričių plėtra gali dar labiau padidinti riziką, kad mūsų modeliai padarys žalos“, – teigiama „Claude“ pokalbių modelio kūrėjos pranešime. Jame taip pat nurodoma, kad galimybė modeliui suvokti, jog jis yra testuojamas, sukuria „reikšmingą kliūtį“ „Anthropic“ galimybėms įvertinti modelio saugumą.

„Anthropic“ situacijos nekomentavo.

Į biržą besiruošiančios žengti įmonės nuolat informuoja apie įvairias rizikas – nuo ​​saugumo problemų iki reguliavimo klausimų, tačiau įspėjimai apie tai, kad DI modelis gali sukelti žmonijos išnykimą, atspindi didėjantį susirūpinimą dėl tokios reikšmingos technologijos.

Pranešimas apie prospekte pateiktą informaciją pasirodė suintensyvėjus diskusijoms apie egzistencinę riziką. Šias diskusijas šį mėnesį paskatino „Anthropic“ tyrėjo Jacobo Coxono atsistatydinimas; jis įspėjo, kad DI kuriantys žmonės „nuoširdžiai tiki, jog jis gali mus visus pražudyti iki šio dešimtmečio pabaigos“.

Vėliau vyresnysis „Anthropic“ saugumo tyrėjas socialiniame tinkle „X“ išreiškė pritarimą šiai nuomonei, teigdamas, kad egzistuoja didesnė nei 10% tikimybė, jog per ateinantį dešimtmetį DI „gali pražudyti visus žmones“. Po kelių dienų „Anthropic“ vadovas Dario Amodei pareiškė, kad DI industrija „privalo sulėtinti DI modelių galimybių gerinimo tempą“.

Kai kurie ekspertai kritikavo egzistencinės rizikos įspėjimus, teigdami, kad jie nepatikrinami ir nemoksliški. Tačiau daugėja nesankcionuoto technologijos elgesio pavyzdžių, įskaitant „OpenAI“ agentus – autonomines sistemas, kurios atlieka užduočių sekas be žmogaus įsikišimo – įsilaužimus į dešimtis trečiųjų šalių organizacijų, įskaitant atviro kodo ir svorių dirbtinio intelekto talpinimo startuolį „Hugging Face“ ir Australijos visuotinę sveikatos priežiūros sistemą.

„OpenAI“ pirmadienį paskelbė, kad dėl saugumo problemų atšaukė naujausio modelio išleidimą. Teigiama, kad GPT-6.1 „Astra“ modelis pasižymėjo didesniu apgaulės lygiu ir prastai pasirodė suderinamumo testuose – termine, užtikrinančiame, kad modelis atitinka žmogaus vertybes ir tikslus.

„Reuters“ pranešė, kad iš 261 puslapio „Anthropic“ prospekto pagrindinės dalies maždaug 80 puslapių buvo skirta rizikos veiksnių aprašymui, palyginti su 48 puslapiais, skirtais verslo veiklos aprašymui.

Pranešama, kad „Anthropic“ siekia, jog įmonės vertė viršytų 2 trilijonus JAV dolerių, palyginti su 1,8 trilijono JAV dolerių verte, kurią pasiekė Elono Musko „SpaceX“.

→ Šis straipsnis nemokamas. Parengti jį ir išlaikyti čia – kainuoja.. Paremkite infa.lt

→ Naujienlaiškis

→ Visa naujienų juosta >>

žiūrėjo 108

Žymos:

Komentarų: 0

Rašyti komentarą


Taip pat skaitykite:

Naujienlaiškio Prenumerata


Laikrodis

Apklausa

Ar pritariate visuotiniam privalomos karo tarnybos įteisinimui?


Rodyti rezultatus

Loading ...

Kūno masės ir ūgio indekso (KMI) apskaičiavimas

    Europos Sąjunga ekskomunikuoja savo piliečius: sankcijos be teismo, be kaltinimo, be vilties

Europos Sąjunga ekskomunikuoja savo piliečius: sankcijos be teismo, be kaltinimo, be vilties

komentarai 2 Skaityti visą įrašą
    Jolanta Blažytė. Taika per stiprybę ar karas per trydą?

Jolanta Blažytė. Taika per stiprybę ar karas per trydą?

komentarai 2 Skaityti visą įrašą
    Gintaras Furmanavičius.  Kokie reikalai su Krymo tiltu?

Gintaras Furmanavičius. Kokie reikalai su Krymo tiltu?

Komentarų: 1 Skaityti visą įrašą
    Kiek gyvenimo atiduodame mokesčiams

Kiek gyvenimo atiduodame mokesčiams

komentarai 2 Skaityti visą įrašą
    Tęsinys: Informacinis badas, augimo iliuzija ir sisteminis disonansas

Tęsinys: Informacinis badas, augimo iliuzija ir sisteminis disonansas

komentarai 3 Skaityti visą įrašą
    Algimantas Rusteika. Labas rytas, Lietuva

Algimantas Rusteika. Labas rytas, Lietuva

Komentarų: 0 Skaityti visą įrašą
    Algimantas Rusteika. Lietuvio vidinis monologas (Metai iki pirmojo pogromo)

Algimantas Rusteika. Lietuvio vidinis monologas (Metai iki pirmojo pogromo)

komentarai 3 Skaityti visą įrašą
    Linas Karpavičius. Dar kartą apie didžiausią, bet ne vienintelį dirbtinai sukurtą mitą.

Linas Karpavičius. Dar kartą apie didžiausią, bet ne vienintelį dirbtinai sukurtą mitą.

Komentarų: 1 Skaityti visą įrašą
    Apie „piktą raganą, miegančiąją gražuolę ir „gerąją fėją“ (alegorija)

Apie „piktą raganą, miegančiąją gražuolę ir „gerąją fėją“ (alegorija)

komentarai 2 Skaityti visą įrašą
    Gintaras Furmanavičius. Apie žymiausio Lietuvos anūko veiklos palikimą

Gintaras Furmanavičius. Apie žymiausio Lietuvos anūko veiklos palikimą

komentarai 3 Skaityti visą įrašą
    Įstatymas nevaisingų porų vardu – toms, kurios nėra nevaisingos. Partnerystė pro šonines duris

Įstatymas nevaisingų porų vardu – toms, kurios nėra nevaisingos. Partnerystė pro šonines duris

Komentarų: 1 Skaityti visą įrašą
    Valdžia efektyvina privataus verslo [su]valdymą: Pinigų užteks visiems!

Valdžia efektyvina privataus verslo [su]valdymą: Pinigų užteks visiems!

komentarai 3 Skaityti visą įrašą
    „Žaliasis kursas“ ir tikroji taršos anatomija: kas iš tiesų teršia planetą ir kas už tai moka?

„Žaliasis kursas“ ir tikroji taršos anatomija: kas iš tiesų teršia planetą ir kas už tai moka?

Komentarų: 1 Skaityti visą įrašą

Vaikas nėra savo mamos kūno dalis. Vaikas nėra nei mamos ranka, nei jos koja, nei...

Diskutuojant apie pasirinkimo laisvę, verta į viską pažvelgti paprastai, žmoniškai. Kiekvienas iš mūsų esame tarsi...

nesigilinate i reiskiniu priezastis! Ar is geroves gyvenime vyksta tie abortai? Ir,kaip ten bebuve,o vaikas...

ta "teisingumo iliuzija",kuri tik dabar issisklaide!? O juk jo niekada nebuvo ir nebus! Ir niekur....

tai ju nebus ir buti negali! Niekas nerizikuos atsakyti uz kita neturedamas jokiu garantiju,kad tas...

ar tiesiog pametete skaiciu,kiek tokiu jau buvo? Norite vilties? Atimkite is ju lovi - privilegijas,nepagristai...

Europa prisipazista,kad yra kariaujancioji puse!?...