cnBeta全文版 10月15日 23:19
NVIDIA DGX Spark迷你AI超算上市,性能表现引关注
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

NVIDIA DGX Spark迷你AI超算在跳票数月后正式上市,售价约为3万元人民币。其搭载了GB10 Grace与Blackwell SuperChip,CPU部分为20核ARM架构,GPU采用Blackwell架构,FP4性能达1PFLOPS,规格相当于RTX 5070。配备128GB LPDDR5X统一内存,理论上可运行高达2000亿参数的AI大模型。然而,实际性能测试显示,在运行Llama-3.1-8b、Deepseek R1等模型时,DGX Spark的输出速度远低于RTX 5090,甚至与价格低得多的苹果M4 Pro相当,其性能表现与其豪华规格和价格不成正比,可能受限于内存带宽。

🚀 **豪华硬件配置,目标大模型运行**:NVIDIA DGX Spark迷你AI超算集成了强大的GB10 Grace和Blackwell SuperChip,拥有20核ARM CPU和Blackwell架构GPU,FP4性能达到1PFLOPS,规格对标高端显卡。其128GB LPDDR5X统一内存设计,理论上能够支持高达2000亿参数的大型AI模型,旨在为AI模型训练和推理提供强大的计算能力。

💰 **高昂价格与初步性能评估**:DGX Spark的定价约为3万元人民币,定位高端市场。尽管硬件配置豪华,但初步的性能测试结果显示,在运行Llama-3.1-8b和Deepseek R1等模型时,其输出速度(tokens/sec)远不及同价位段或更低价位的竞争产品,例如RTX 5090,甚至与苹果M4 Pro芯片的Mac Mini性能相当。

⚠️ **性能瓶颈与市场竞争力疑虑**:尽管能够运行大型AI模型,但DGX Spark在实际测试中的表现似乎未能充分发挥其硬件潜力。分析认为,内存带宽可能是主要的性能瓶颈,导致其在处理大型模型时速度受限。与价格仅为其三分之一的苹果M4 Pro芯片相比,DGX Spark的性能优势并不明显,这对其高昂的价格和豪华规格的市场竞争力提出了疑问。

跳票了几个月之后,NVIDIA的迷你AI超算DGX Spark总算正式上市了,3999美元的价格差不多是3万元起步了。DGX Spark的规格非常豪华,处理器是GB10 Grace+Blackwell SuperChip,CPU部分是20核ARM架构,10 Cortex-X925 + 10 Cortex-A725组成,GPU是Blackwell架构,FP4性能达到了1PFLOPS,整合第五代Tensor核心及第四代RT光追核心,整体规格相当于RTX 5070。

内存是256-bit位宽的LPDDR5X统一内存,最高频率9400MHz,原始带宽约301GB/s,搭配128GB内存,它可以运行最高2000亿参数的AI大模型,或者最高700亿参数的微调模型。

2000亿参数对AI大模型来说不低了,如果能在这样的迷你机上跑那无疑非常有吸引力,所以DGX Spark上市后,已经有人测试了它的性能,网友Peter Gostev ??还制作了详细的图表,对比了RTX Pro 6000、RTX 5080、RTX 5090及苹果M1 Max、M4 Pro的性能。

简单来说,DGX Spark跑了几个Deepseek R1、Llama-3、Gemma-3等模型,其中Llama-3.1-8b输出也就每秒36tokens,R1是20tokens。

这是什么水平呢?RTX 5090对应的性能分别是200、114,至少3-5倍性能领先,但价格只有一半。

苹果M4 Pro跑对应大模型也有34、18tokens性能,跟DGX Spark差不多,但价格只有1400美元。

总之,在这个性能测试中,DGX Spark虽然能跑大模型了,但性能表现似乎有点不对劲,估计内存带宽还是太受限了,比高端游戏GPU还差很多,跟价格1/3水平的苹果M4 Pro芯片的Mac Mini差不多,完全对不住它的豪华规格和价格。

查看评论

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

NVIDIA DGX Spark AI超算 Blackwell Grace SuperChip AI模型 性能测试 迷你AI NVIDIA DGX Spark AI Supercomputer Blackwell Grace SuperChip AI Models Performance Test Mini AI
相关文章