NVIDIA DGX Spark

Az NVIDIA DGX Spark 4TB miniszámítógép főbb jellemzői

Egy adatközpont teljesítménye miniatűr testben

Az NVIDIA DGX Spark szíve a GB10 Grace Blackwell szuperchip – egy 20 magos ARM processzor (10× Cortex-X925 + 10× Cortex-A725) és egy Blackwell architektúrájú GPU egyedülálló kombinációja, 5. generációs tensor magokkal és 4. generációs RT magokkal. A szuperchip mindkét részét az NVLink-C2C technológia köti össze, amely az 5. generációs PCIe sávszélességénél ötször nagyobb átviteli sebességet biztosít, és lehetővé teszi a CPU és a GPU számára, hogy megosszanak egyetlen, 128 GB-os, egyesített LPDDR5X memóriaterületet. Az eredmény elképesztőteljesítmény, amely azonban legfeljebb 240 W-ot fogyaszt, és bármelyik íróasztalon elfér. Éppen a megosztott memória a GPU VRAM és a rendszer RAM hagyományos elkülönítése nélkül a DGX Spark kulcsfontosságú előnye a szabványos asztali rendszerekkel szemben – ott, ahol a GeForce RTX 5090 grafikus kártya 32 GB memóriát kínál, a DGX Spark négyszer annyit tesz elérhetővé az AI modellek számára, anélkül, hogy a modelleket kvantálni vagy több eszköz között elosztani kellene.

Személyes szuperszámítógép, amely minden íróasztalon elfér

Az NVIDIA DGX Spark bíztonyítja, hogy a legnagyobb AI modellek futtatásához ma már nincs szükség szerverszobára vagy hardverrel teli rack szekrényre. 150 × 150 × 50,5 mm-es méreteivel és 1,2 kg-os súlyával a DGX Spark bármelyik íróasztalon elfér a laptopod mellett – mégis olyan teljesítményt kínál, amely néhány évvel ezelőtt még egy teljes, grafikus kártyákkal teli szervert igényelt. A négy USB-C 4.0 port akár 40 Gb/s sebességgel, a Wi-Fi 7, a 10Gb Ethernet és a HDMI bemenet biztosítja az összes tartozék csatlakoztatását anélkül, hogy külső hubravagy dokkoló állomásra lenne szükség. A DGX Spark olyan fejlesztők, tudósok és AI szakemberek számára készült, akik egy lokális AI személyes szuperszámítógép teljes teljesítményére vágynak, felhőtől való függőség nélkül – közvetlenül ott, ahol dolgoznak.

Prototípuskészítés és AI alkalmazások fejlesztése határok nélkül

A teljes NVIDIA AI szoftver stack a fejlesztők számára teljes értékű platformot biztosít az AI modellek, AI ügynökök és a mesterséges intelligenciával kiegészített alkalmazások létrehozásához – mindezt lokálisan, a felhőtől függetlenül. Amint a megoldás készen áll a telepítésre vagy a végső finomhangolásra, a DGX Spark lehetővé teszi a munkaterhelések közvetlen és zökkenőmentes migrálását az NVIDIA DGX felhőbe vagy más, NVIDIA technológiákkal gyorsított infrastruktúrába.

AI modellek finomhangolása akár 70 milliárd paraméterig

Használd ki az NVIDIA DGX Spark 128 GB egyesített memóriáját az akár 70 milliárd paraméterrel rendelkező, előre betanított modellek finomhangolására közvetlenül a munkaállomásodon. A saját adatokon való képzés lehetővé teszi az AI modellek specializálását különleges igényekre, iparági adatokra vagy specifikus felhasználási esetekre – anélkül, hogy az érzékeny adatokat a felhőbe kellene küldened, vagy drága GPU példányokért kellene fizetned. Az eredmény egy pontosan a te forgatókönyvedhez szabott modell, amely lokálisan, biztonságosan és teljesmértékben a te irányításod alatt jött létre.

Az NVIDIA DGX Spark 4TB új szintre emeli az adattudományi munkafolyamatokat

A 128 GB egyesített memória és az akár 1 PFLOP AI számítási teljesítmény kombinációja az NVIDIA DGX Sparkot ideális munkaállomássá teszi adattudományi, nagyméretű adatelemzési és gépi tanulási projektekhez. A hatalmas adatkészletek feldolgozása, az összetett számítási modellek futtatása, valamint a számításigényes tanítási és elemzési feladatok, amelyek korábban felhőalapú klasztert vagy dedikált szervert igényeltek, most közvetlenül a saját asztalodon végezhetők el. Gyorsan, helyben és a távoli infrastruktúrára való várakozás nélkül.

Modellek következtetése akár 200 milliárd paraméterrel

Az 5. generációs tensor magok FP4 formátum támogatással akár 1 PFLOP teljesítményt érnek el, és a 128 GB rendszermemóriával kombinálva lehetővé teszik a legkorszerűbb, akár 200 milliárd paraméterrel rendelkező AI modellek következtetésének futtatását közvetlenül a munkaasztalon. Teszteld, érvényesítsd és telepítsd az olyan modelleket, mint a Llama, a Gemma vagy a Qwen, lokálisan és valós időben – a felhő késleltetése nélkül, megosztott infrastruktúra nélkül és az érzékeny adatok kiszivárgásának kockázata nélkül.

Alkalmazásfejlesztés robotikai rendszerekhez, ipari megoldásokhoz és intelligens városokhoz

Az NVIDIA DGX Spark kiváló platformot biztosít robotikai rendszerek, okos városi megoldások és számítógépes látás alapú alkalmazások fejlesztéséhez. A robotikához készült NVIDIA Isaac, a videóelemzést támogató Metropolis, valamint a valós idejű adatfeldolgozást lehetővé tevő Holoscan előre telepített keretrendszerek segítségével a fejlesztők maximálisan kihasználhatják a DGX Spark teljesítményét, és gyorsan elkészíthetik, tesztelhetik, majd telepíthetik alkalmazásaikat – helyben, a felhőinfrastruktúrától függetlenül, az NVIDIA ökoszisztéma teljes támogatásával.