本地算力GEAR-0010

NVIDIA DGX Spark

NVIDIA

64GB 约 ¥3.5 万 / 128GB 约 ¥5 万本地算力大模型推理

巴掌大的桌面 AI 超算,128GB 统一内存,能在本地跑 200B 参数级别的模型。

关键规格

它解决的是什么问题

云端 API 的账单和隐私是两个绕不开的问题。DGX Spark 把「一张能跑大模型的芯片 + 足够的内存」塞进一个巴掌大的盒子:GB10 Grace Blackwell,128GB 统一内存,千 TOPS 级算力。

关键在内存,不在算力

跑大模型的瓶颈是显存装不装得下。128GB 统一内存意味着单机可以吃下 200B 参数级别(量化后)的模型,这是消费级显卡 24~32GB 根本做不到的。64GB 版本上限约 100B。

要接受的代价

价格。64GB 版 4,999 美元,128GB 版因为内存涨价已经到 6,950 美元。它是推理和微调设备,不是训练设备。预装 DGX OS(Ubuntu),不是拿来做日常电脑的。

判断

适合「模型必须留在本地」的场景:医疗、法务、金融的敏感数据,或者要跑几十个 Agent 做 7×24 任务。如果只是偶尔调 API,这笔钱花得不值。

同类装备共 3 件