摩根士丹利报告指出，AI推理业务利润惊人，平均利润率普遍超过50%。报告通过“100MW AI工厂模型”对不同AI GPU芯片的解决方案进行量化评估。NVIDIA的GB200 NVL72以近78%的利润率位居榜首，得益于其强大的计算性能和CUDA软件生态。谷歌TPU v6e pod和AWS Trn2 UltraServer也表现出色，利润率分别为74.9%和62.5%。华为昇腾CloudMatrix 384平台利润率为47.9%。AMD的MI300X和MI355X则出现负利润率，显示其在AI推理市场的成本效益方面面临挑战。

💡 AI推理业务利润可观：摩根士丹利的研究表明，AI推理业务是一项利润丰厚的生意，一座标准的AI推理工厂平均利润率普遍超过50%，显示出该领域巨大的商业潜力。

🚀 NVIDIA GPU领先市场：NVIDIA的GB200 NVL72凭借近78%的利润率遥遥领先，这主要归功于其卓越的计算性能和强大的CUDA软件生态系统，巩固了其在AI芯片市场的领导地位。

📈 其他芯片表现：谷歌自研的TPU v6e pod以74.9%的利润率位列第二，AWS的Trn2 UltraServer也取得了62.5%的利润率，表明这些公司在AI硬件研发方面取得了显著进展。

📉 AMD芯片遭遇挑战：AMD的MI300X和MI355X芯片在AI推理领域的利润率分别为-28.2%和-64%，报告指出其高昂的成本未能被token产出效率所覆盖，显示出在竞争激烈的AI芯片市场上面临的严峻挑战。

📊 摩根士丹利标准化评估框架：摩根士丹利通过其首创的“100MW AI工厂模型”，为不同技术路径的AI解决方案提供了一个统一的商业维度量化评估标准，有助于业界更清晰地理解各类AI硬件的经济效益。

快科技8月17日消息，当下，几乎所有软件巨头们都在大力投入AI推理业务。近日，大摩（摩根士丹利）的一份重磅报道显示，AI推理原来是一门利润惊人的生意。而选择不同的AI GPU芯片，利润率也差距非常大。

但总体来看，一座标准的“AI推理工厂”，无论采用哪家巨头的芯片，其平均利润率普遍超过50%。

据悉，摩根士丹利首创了一套标准化分析框架，即“100MW AI工厂模型”，将不同技术路径的AI解决方案，置于同一商业维度下进行量化评估。

毫无悬念，NVIDIA的GB200 NVL72以近78%的利润率遥遥领先。据悉，这主要得益于其领先的计算性能以及CUDA软件生态的深厚壁垒，展现出了绝对的市场一哥的统治力。

谷歌自研的TPU v6e pod以74.9%的利润率排名第二，AWS（亚马逊云）的Trn2 UltraServer取得了62.5%的利润率，而华为的昇腾CloudMatrix 384平台也取得了47.9%的利润率。

AMD的MI300X和MI355X意外遭遇滑铁卢，利润率竟然为负，分别为-28.2%和-64%。

报告指出，虽然AMD前期投入很大，但其token产出效率所能创造的收入，远不足以覆盖其高昂的成本。