Cnbeta 09月27日 03:50
PCIe Gen5交换机加速AI计算,直连GPU与NVMe存储
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

随着生成式AI的普及,对高性能硬件平台的需求日益增长。HighPoint推出业内首款支持NVIDIA GPUDirect技术的PCIe Gen5交换机Rocket 7638D,旨在解决AI模型训练和推理中的数据瓶颈。该交换机允许NVIDIA GPU直接访问NVMe存储,绕过CPU,实现最大速度的数据传输。Rocket 7638D提供48条PCIe Gen5通道,支持高达2PB的存储容量和64GB/s的数据传输速率,并兼容x86和Arm系统,有望显著提升AI和机器学习应用的性能。

🚀 **GPUDirect技术赋能高效数据传输:** HighPoint的Rocket 7638D PCIe Gen5交换机是业界首款集成NVIDIA GPUDirect技术的硬件产品。GPUDirect是一套NVIDIA开发的技术,它允许网络适配器、存储设备与GPU内存之间进行直接通信,消除了传统模式下CPU作为中介带来的性能瓶颈,减少了不必要的内存拷贝、CPU负载和延迟,从而极大地加速了AI和机器学习工作负载中的数据传输和访问速度。

💡 **优化的存储架构满足AI需求:** 面对生成式AI处理海量数据的挑战,基于PCIe的新型存储架构变得至关重要。Rocket 7638D通过提供48条PCIe Gen5通道,让NVIDIA高性能GPU能够以最大速度访问NVMe存储驱动器。该交换机支持高达2PB的高速PCIe存储,数据传输速率最高可达64GB/s,有效解决了传统存储模式下CPU管理所有I/O操作造成的卡顿问题,为AI训练和推理提供了强大的数据供应能力。

⚙️ **灵活的系统兼容性与独立运行:** Rocket 7638D交换机集成了Arm架构芯片(Broadcom PEX 89048),使其能够独立于主机CPU运行,并兼容x86及Arm系统。这意味着它可以在多种计算环境中实现完整数据流,而无需特殊的驱动或软件,并且与Windows和Linux主流计算环境兼容。这种灵活性使得该交换机能够广泛应用于各种高性能计算场景,为不同架构的用户提供便捷高效的解决方案。

随着生成式AI技术流行度不断提升,当前硬件平台面临重大挑战。强大的AI模型通常需要处理海量数据,这催生了对基于PCIe的新型存储架构的需求,以最大化性能与效率。

GPU与存储之间的直连技术正逐步进入实际可安装的产品。专注于高端PCIe存储方案的HighPoint公司近日推出了一款PCIe Gen5交换机,让NVIDIA高性能GPU能够以最大速度访问NVMe存储驱动器。

据HighPoint介绍,Rocket 7638D PCIe交换机是业内首款支持NVIDIA GPUDirect技术的硬件产品。该交换机专为加速AI与机器学习负载而设计,解决传统存储模式中常见的数据供应瓶颈问题——在旧模式下,几乎所有I/O操作都由中央CPU管理,造成卡顿。

GPUDirect是NVIDIA开发的一组技术,旨在加快GPU上的数据传输及内存访问。NVIDIA解释称,GPUDirect让网络适配器、存储设备与GPU内存之间直接通信,有助于消除性能瓶颈,减少不必要的内存拷贝、CPU负载与延迟。

Rocket 7638D交换机总共提供48条PCIe Gen5通道,包括用于外接GPU和NVMe存储的专用x16数据路径(可由单槽解决)。内部NVMe驱动器可通过内置MCIO端口连接,最多支持16块硬盘。该交换机可管理最大达2PB的高速PCIe存储,数据传输速率最高可达64GB/s。

HighPoint表示,新款交换机可在AI训练、推理及其他高数据密度应用场景有效提升性能。借助集成的Arm架构芯片(Broadcom PEX 89048),Rocket 7638D可独立于主机CPU运行,并兼容x86及Arm系统。

此卡无需特殊驱动或软件即可实现完整数据流,并兼容Windows与Linux主流计算环境。目前HighPoint未公布具体上市时间与定价,感兴趣用户需直接联系公司咨询。考虑到其面向的客户群与强大性能,这款行业首创的GPUDirect网络交换机预计价格与采购量都不菲。

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

PCIe Gen5 AI加速 GPUDirect NVMe存储 HighPoint NVIDIA 生成式AI 高性能计算
相关文章