本文介绍了英伟达在AI Infra Summit上推出的全新GPU——NVIDIA Rubin CPX,适用于处理百万token级别的代码生成和生成式视频应用,并具有高效益的投资回报。

henry 发自 凹非寺 量子位 | 公众号 QbitAI老黄对token密集型任务下手了。 刚刚,在AI Infra Summit上,英伟达宣布推出专为处理 百万token级别的代码生成和生成式视频应用的全新GPU—— NVIDIA Rubin CPX GPU。 [图片] 老黄表示:Rubin CPX是 首款为超大上下文AI量身定制的CUDA GPU,可以让模型“一口气”推理数百万token。而且,RubinCPX还能让你越用越省钱:每投资 1亿美元,就能获得50亿美元的token收益。(50倍,你就赚吧,老黄说… (全文不可用)