infa.lt

CES parodoje „Nvidia“ pristatė „Project Digits AI“ – stalinį superkompiuterį, pasižymintį iki 1 petaflopso našumu, kuris yra 1 000 kartų galingesnis už įprastą nešiojamąjį kompiuterį.

Kompaktiškas „Mac Mini“ dydžio įrenginys turi „Grace Blackwell“ super-mikroschemą, 128 GB atminties ir gali paleisti sudėtingus dirbtinio intelekto modelius, įskaitant GPT-4, vietoje, be debesijos ryšio su duomenų centrais.

Įmonėms, tyrėjams ir studentams skirtas „Digits“ siūlo visą „Nvidia AI Enterprise“ įrankių rinkinį, skirtą dirbtinio intelekto projektams kurti ir testuoti. Pardavimai prasidės gegužę, o kaina prasidės nuo 3 000 JAV dolerių.

Projektas „Digits“, kaip ir „Nvidia“ DGX 100 serveriai, siūlo naudotojams naudoti paruoštą dirbtinio intelekto superkompiuterį, todėl nereikia diegti didelių klasterių. DGX 100 įrengiami serverių spintose, o „Project Digits“ – staliniame kompiuteryje, užimančiame maždaug tiek pat vietos, kiek Apple  „Mac Mini“ stalinis kompiuteris.

Projekte „Digits“ naudojamas „Nvidia“ kartu su „MediaTek“ sukurtas GB10 Grace Blackwell superčipas. Teigiama, kad „Nvidia“ „Blackwell“ GPU, užtikrinantis 1 petaflopso našumą, su 20 branduolių „Grace“ procesoriumi sujungtas naudojant „NVLink C2C“ technologiją.

Plokštėje taip pat yra 128 GB „Micron“ LPDDR5X atminties ir 4 TB NVMe kietasis SSD. Tinklo adapteris „Nvidia ConnectX“ palaiko NCCL, RDMA ir GPUDirect technologijas.

Dėl didelės galios ir kompaktiško dydžio vienas „Project Digits“ modulis gali paleisti didelius kalbos modelius su iki 200 milijardų iteracijų. Palyginimui, „OpenAI“ GPT-4 naudoja 12 mlrd. iteracijų, o tai reiškia, kad „Project Digits“ gali paleisti ir konfigūruoti „ChatGPT“ vietoje.

Naudojant du modulius („double Digits“), palaikomi modeliai iki 405 mlrd. iteracijų.

Projektas „Project Digits“ skirtas naudotojams, kuriems dirbtiniam intelektui paleisti reikia vietinės prieigos prie galingų skaičiavimo išteklių. Ši didelio našumo sistema yra optimizuota dirbtiniam intelektui tiek technine, tiek programine įranga.

Į „Project Digits“ iš anksto įdiegtas visas „Nvidia AI Enterprise“ programinės įrangos rinkinys, įskaitant bibliotekas, aplinkas ir įrankius, skirtus didesniems dirbtinio intelekto projektams valdyti.

Digits gali būti naudojamas ryšiui su debesimi palaikyti per asmeninį kompiuterį arba kaip „Linux“ darbo stotis su „Nvidia“ DGX OS. Pranešime spaudai „Nvidia“ teigia, kad naudotojai galės „kurti prototipus, konfigūruoti ir bandyti modelius vietinėse ‚Project Digits‘ sistemose“, o tada juos diegti debesyje arba savo duomenų centre.

„Nvidia“ šį įrenginį skiria įmonėms, mokslininkams ir studentams, tačiau tikėtina, kad jis patiks ir pažengusiems mėgėjams. „Padėdami dirbtinio intelekto superkompiuterį ant kiekvieno duomenų mokslininko, dirbtinio intelekto tyrėjo ir studento stalo, suteiksime jiems galimybę dalyvauti dirbtinio intelekto kūrime ir jį formuoti“, – sakė ‚Nvidia‘ generalinis direktorius Jensenas Huangas.