IT之家 08月26日
英伟达发布 Blackwell 架构的 ConnectX-8 超级网卡
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

英伟达发布了专为 Blackwell 架构设计的 ConnectX-8 超级网卡,该网卡在 AI 推理和训练两类工作负载上均表现出色。它平衡了对时延敏感的推理任务和同步、低交互的训练任务,支持 Spectrum-X 以太网和 Quantum-X Infiniband 双网络。ConnectX-8 具备 800G RDMA 硬件管线,内置负载均衡和拥塞控制,提供 800 Gb/s InfiniBand 和 2X400G Spectrum-X 以太网接口,采用 PCIe Gen6 X48 通道,并可通过集成 PCIe 交换机扩展至 64 GPU 集群。其集成的 RISC-V 数据路径加速器能显著缩短训练时间并降低尾部延迟,专为大规模 AI 工作负载优化。

🚀 **ConnectX-8 超级网卡:专为 Blackwell 架构设计** 英伟达推出的 ConnectX-8 是专为 Blackwell 架构打造的超级网卡,其先进性远超传统网卡。它旨在解决 AI 推理和训练这两种不同且要求严苛的工作负载,提供高效的网络连接解决方案。

⚖️ **平衡 AI 推理与训练的性能需求** ConnectX-8 精准平衡了 AI 推理对低时延和分布式处理的需求,以及 AI 训练对同步和低外部交互的需求。通过支持 Spectrum-X 以太网和 Quantum-X Infiniband 硅光网络交换机,并采用 800G RDMA 硬件管线,它能同时优化这两种工作负载。

⚡ **强大的网络接口与扩展能力** 该网卡配备了 800 Gb/s InfiniBand XDR 接口和 2X400G Spectrum-X Ethernet 接口,并基于 PCIe Gen6 X48 通道,通过集成 PCIe 交换机,能够扩展支持高达 64 个 GPU 的集群。其集成的 RISC-V 数据路径加速器能显著缩短训练时间高达 60%,并实现接近零的尾部延迟。

🛠️ **丰富的 API 支持与网络优化** ConnectX-8 兼容 Verbs、NCCL、NIXL、DOCA API,并内置了负载均衡、拥塞控制与可靠性机制,确保了 AI 网络通信的高效和稳定。它能够扩展操作系统服务,为大规模 AI 应用提供强大的网络支持。

IT之家 8 月 26 日消息,英伟达今天发布了为 Blackwell 架构设计的 ConnectX-8 超级网卡,这张网卡的先进程度“远超传统网卡”,故被称为 SuperNIC“超级网卡”

据英伟达介绍,AI 推理和训练是两种不同的工作负载,其中推理的工作负载对时延敏感,是分布式、分区化的分区负载;而训练则是同步、长时间的工作负载,与外部交互较少。

而 ConnectX-8 做到了这两者的平衡,它同时支持 Spectrum-X 以太网和 Quantum-X Infiniband 硅光网络交换机,其硬件管线为 800G RDMA,内置负载均衡、拥塞控制与可靠性机制。

这款网卡兼容 Verbs、NCCL、NIXL、DOCA API,拥有 800 Gb/s 的 InfiniBand XDR 接口和 2X400G 的 Spectrum-X Ethernet 接口,其插槽规格为 PCIe Gen6 X48 通道,通过集成 PCIe 交换机提供。

这张网卡还能扩展至 64 GPU 集群,其集成的 ConnectX-8 RDMA 可扩展操作系统服务,实现 AI 网络的高效通信,同时还配有一个 16T RISC-V 数据路径加速器,这使得这张网卡相比 OTS RDMA 网卡 / 交换机训练步长时间缩短了 60%,尾部延迟接近零。

IT之家注:SuperNIC 是一种新型网络加速器,专为基于以太网的云环境中加速超大规模 AI 工作负载而设计,能为 GPU 之间提供超高速的网络连接

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

英伟达 Nvidia ConnectX-8 SuperNIC Blackwell AI网络 InfiniBand Spectrum-X RDMA AI训练 AI推理
相关文章