NVIDIA DGX Station

Kľúčové vlastnosti pracovnej stanice NVIDIA DGX Station

Superčip GB300 Grace Blackwell Ultra a 748 GB koherentnej pamäte

Srdcom NVIDIA DGX Station je superčip GB300 Grace Blackwell Ultra – unikátna kombinácia GPU Blackwell Ultra s 252 GB pamäte HBM3e a priepustnosťou 7,1 TB/s a 72-jadrového ARM procesora Grace Neoverse V2 s 496 GB LPDDR5X a priepustnosťou 396 GB/s. Obe časti superčipu sú prepojené technológiou NVLink-C2C so šírkou pásma 900 GB/s, ktorá eliminuje tradičné úzke hrdlo medzi CPU a GPU pamäťou a vytvára jednotný koherentný pamäťový priestor 748 GB. Výsledkom je výkon 20 petaFLOP vo formáte FP4 a 330 TOPS vo formáte Int8 – presne tam, kde predtým bolo potrebné celé poschodie serverovne.

Superpočítač pre AI tím – MIG a ConnectX-8 clustering

NVIDIA DGX Station nie je len osobný superpočítač, ale výkonný lokálny výpočtový bod pre celý AI tím. Technológia NVIDIA MIG umožní rozdeliť GPU na až sedem plne izolovaných inštancií, každú s vlastnou dedikovanou pamäťou, výpočtovými jadrami a sieťovým pripojením, na súbežnú prácu viacerých výskumníkov bez vzájomného ovplyvňovania. Prepojenie dvoch DGX Station cez NVIDIA ConnectX-8 SuperNIC so šírkou pásma až 800 Gb/s potom zdvojnásobí výkon na vyše 40 petaFLOP a vyše 1,4 TB koherentnej pamäte na prácu s najväčšími dostupnými modelmi – bez nutnosti budovať drahý serverový klaster.

Prototypovanie a vývoj AI aplikácií bez hraníc

Kompletný softvérový stack NVIDIA AI poskytuje vývojárom plnohodnotnú platformu na tvorbu AI modelov, AI agentov a aplikácií rozšírených o umelú inteligenciu – všetko lokálne, bez závislosti od cloudu. NVIDIA DGX OS na Ubuntu 24.04 LTS prichádza predkonfigurovaný s CUDA-X knižnicami, Container Toolkitem, Dockerom a NVIDIA AI Enterprise na okamžitý štart vývoja. Hneď ako je riešenie pripravené na produkčné nasadenie, DGX Station umožní priamu a bezproblémovú migráciu workloadov do cloudu NVIDIA DGX alebo inej infraštruktúry akcelerovanej technológiami NVIDIA – s rovnakými nástrojmi, knižnicami a pretrénovanými modelmi.

Doladenie AI modelov s miliardami parametrov priamo na pracovisku

Využite NVIDIA DGX Station na doladenie pretrénovaných modelov s miliardami parametrov priamo na svojom pracovisku. Tréning na vlastných dátach umožní špecializovať AI modely pre konkrétne odborové dáta alebo špecifické prípady použitia – bez nutnosti odosielať citlivé dáta do cloudu alebo platiť za drahé GPU inštancie. Platforma NemoClaw potom zaistí bezpečnú a izolovanú prevádzku autonómnych AI agentov s plnou kontrolou governance. Výsledkom je model presne prispôsobený vášmu scenáru, ktorý vznikol lokálne, bezpečne a pod vašou plnou kontrolou.

NVIDIA DGX Station sprostredkuje dátovú vedu na najvyššej úrovni

Kombinácia 748 GB koherentnej pamäte a výkonu 20 petaFLOP robí z NVIDIA DGX Station ideálnu pracovnú stanicu pre náročné dátovo-analytické a strojovo-učiace sa projekty. Rozsiahle dátové sady, komplexné výpočtové modely a náročné tréningové procesy, ktoré predtým vyžadovali výkonný cloudový cluster alebo dedikovaný server, teraz pobežia priamo na vašom stole. Štyri sloty M.2 Gen 5, dve 400 Gb/s QSFP112 sieťové rozhrania a PCIe Gen 5 x16 potom zaistia dátovú priepustnosť hodnú výskumnej infraštruktúry – rýchlo, lokálne a bez čakania na vzdialenú infraštruktúru.

Inference modelov s až 1 biliónom parametrov

Tensor jadrá architektúry Blackwell Ultra s podporou formátu FP4 dosahujú výkon až 20 petaFLOP a v kombinácii so 748 GB koherentnej pamäte umožnia prevádzkovať inferenciu najväčších dostupných AI modelov s až 1 biliónom parametrov priamo na pracovnom stole. Testujte, overujte a nasadzujte modely lokálne a v reálnom čase – bez latencie cloudu, bez zdieľanej infraštruktúry a bez rizika úniku citlivých dát. NVIDIA NIM mikroslužby potom umožnia rýchle nasadenie optimalizovaných modelov ako kontajnerov pre produkčnú inferenciu.

Vývoj aplikácií pre robotiku, priemysel a inteligentné mestá

NVIDIA DGX Station predstavuje výnimočnú platformu na vývoj robotických systémov, riešení pre inteligentné mestá a aplikácií počítačového videnia. Predinštalované frameworky NVIDIA Isaac pre robotiku, Metropolis na analýzu videa a Holoscan na spracovanie dát v reálnom čase umožnia vývojárom plne využiť výkon DGX Station a rýchlo prototypovať a nasadzovať aplikácie – lokálne, bez závislosti od cloudovej infraštruktúry a s plnou podporou ekosystému NVIDIA.