2025-02-23 23:58 广东
1、近日我们对HW昇腾一体机的需求进行了调研,我们了解到节后这两周时间内,一体机的相关商机线索已是去年同期的10-20x,且景气度还在攀升,与此同时910B芯片的价格也出现了上涨;过去一周,我们看到各地政府系统纷纷在进行本地化的DS部署,不少央国企也以身作则部署DS开展应用场景的探索,我们认为这都是对行业景气度的交叉验证。
2、关于Deepseek-R1推理模型的云端和本地部署方案:
1)云端部署特点为高并发,完整版 R1模型推理框架可采用PD分离,4节点prefill+40 节点decode的8卡 h800服务器,4M tokens/hour下, batch size并发约几万级别,大约可支持几十万的DAU。
2)本地部署特点为低并发,R1蒸馏模型大小各异,下游需求广泛,部署大多采用一体机的形式,百花齐放。
3)本地部署创新方案,清华大学 KTransformers采用GPU/CPU协同计算,实现千亿参数模型在消费级硬件上的高效推理。该团队正与 Intel 合作,针对Xeon6/MRDIMM平台进行进一步优化。
3、大模型私有化部署如火如荼,DeepSeek补齐了大模型在行业垂类落地的最后拼图,供需两端均显示一体机的高景气度。G端落地大模型成为趋势,国资也是更具购买力的需求方,预计一体机将形成更陡峭的景气斜率。
一体机主要用于私有云,部署本地化大模型可以不联网使用,确保数据在本地处理,避免敏感信息外流,能够满足金融、能源、政务、医疗等对于等数据敏感型行业对于安全和隐私的要求。随着政府和关键行业客户AI应用的加速落地,大模型私有化部署需求将持续增长,一体机有望成为大型政企客户的主流AI计算平台。
一体机已在教育行业已有落地应用:广东实验中学基于常青云DeepSeek一体机,在数小时内完成DeepSeek应用平台搭建,以开箱即用的AI基座,实现教学、管理、评估全链条智能化升级。一体机发展潜力可期。
4、我们在上周一推荐云从科技时就明确地指出, 这个方向目前市场仍有预期差,本地化部署反而是最符合国情的大模型落地方式(数据安全考虑、对硬件青睐度更高);在上周日的观点中,我们提到DS之于企业端,就是新时代的 。我们不可否认DS一定会加速应用的落地,但我们更需理解的是现阶段政企部署DS作为一种ZZ正确的行为,是直接推动相关产品(云/一体机)和服务(部署)落地的核心驱动力。
按照上述逻辑推演,我们预测国内B/G端会以极快的速率完成对DS的接入/部署渗透,在这一时期里,我们认为一体机以其低成本(200w以内的价格,也可通过租赁的形式)、易用性(开箱即用,运维便捷)、和昇腾芯片的推理能力加持(搭载910B),有望成为众多企业/政府客户的本地化部署DS的首选方案。。
考虑到下游本地化部署需求快速爆发导致的上游芯片供应紧张,我们认为昇腾一体机或将成为紧缺的环节,那么和HW自23年已成为一体机合作伙伴的公司(软通、讯飞、云从...)我们认为更有机会拔得头筹。
5、昇腾一体机调研要点:
1)昇腾整体:DS对昇腾下游拉动需求较大,全年昇腾预计出货量75万-80万张之间,910b在35万,910c在45万整体目标;鲲鹏25全年预计130万颗,26年昇腾目标110万-120万区间;
2)结构:地方算力中心10万张,运营商20万,互联网40-45万,其中一体机形式在5-10万张左右(政企为主);
3)deepseek一体机对于30家合作伙伴态度:H适配为主,出货、运维、微调合作伙伴为主;
4)价格利润:1)售:价格目前价格不太会加,后面如果遇到交货困难,可能会加,DS毛利率45-50%,给生态伙伴纯硬件部分净利率估计10%或者以内;2)租:满8卡一台10万/月;
5)一体机出货量:去年24年整体训推一体机出货2000卡左右,今年2月底预计DS一体机整体需求在1500台左右,预计今年一体机里面95%来自DS一体机。
6、相关标的:
机构较关注的一体机潮头玩家:
- 深信服:同架构混合云一体机,AI安全能力出色,AICP算力底座,还原十倍推理性能
- 云从科技:首批昇腾一体机,推训全周期覆盖,多模态能力突出
- 海光信息:隐私计算一体机,海光计算底座,异构加速芯片DCU结合,全链路安全可控
- 云天励飞:自研AI算力芯片高性价比支持推理需求+DS适配
- 其余一体机布局标的建议关注:汉得信息(私有化部署know-how+人效弹性)、新致软件(携手海光推出一体机)、软通动力(昇腾核心合作伙伴)、三大运营商
机构强call:云从科技
训推一体机方向,很多朋友反馈做一体机的公司很多,不知道怎么选。我调研下来思考,训推一体的核心本就不是一体机,卖机器与卖方案是两个业务形态,而一体机只是业务载体的一部分,能够通过借助这次一体机爆发的行业浪潮而落地更多业务才是核心增量。
这个思路下,call:#云从科技,公司少有的具备AI业务全生命周期落地能力,这本身就是很强的行业壁垒,客户端深耕政府、金融等大甲方,近期政务AI已有业务落地。一体机方面,公司在华为体系有特商权(有特商权的公司不多的),如果接下来行业一体机出货紧俏,公司具备量价齐升的预期。市场龙头拓维已打出空间,接下来实际落地业务云从建议高度关注了。
刚开完云从科技电话会,迫切分享几点,对一体机行业我们更深更新的认识:
1)需求大家都看到了,正在爆发,相关企业业务合作对接到手软。但对于政府而言,目前的本地化部署绝不是以替代公务员工作量为目标,而是在打造一种围绕“治理、发展、服务”的新模式。(这是重构业务体系的逻辑啊)
2)一体机的壁垒一定是行业 know how+全面的服务能力(一体机只是业务载体)
3)最最重要的,一体机不是业务发展的目标,而是打开 Ai Agent 业务蓝海的敲门砖(这块我会做个专题研究,一定要考虑一体机部署后,带来的类 Saas 业务量有多大,这是更性感的业务)
4)好的业务不是规划出来的,是自然沉淀发展而来,比如云从不是因为最近一体机需求上来了才去做,公司去年已经布局,在数字重庆等多个政府项目实现批量出货。
