当英伟达宣布达成跟OpenAI最高1000亿美元的合同，它的竞争对手，AI芯片初创公司Groq也刚刚宣布完了一笔7.5亿美元的最新融资，融资后估值为69亿美元。这一数字超过了7月间的传闻。当时有报道称，Groq的融资额将达到约6亿美元，估值接近60亿美元。
资本正高度关注AI推理芯片赛道——Groq曾于2024年8月以28亿美元的估值融资6.4亿美元，这意味着，在短短一年多的时间里，估值翻了一倍多。本轮融资由Disruptive领投，此外也获得了来自贝莱德、Neuberger Berman集团有限责任公司和德国电信资本的“重大投资”，以及包括三星电子、思科、D1 Capital和Altimeter在内的现有投资者的出资。
根据半导体产业研究，全球AI芯片市场正处于高速增长期，2023年市场规模只有231.9亿美元，预计至2029年将以31.05%的复合年增长率攀升至1175亿美元。随着大语言模型从研发走向应用，AI产业重心正从训练阶段转向推理环节。英伟达财报也显示，2024财年第四季度数据中心GPU收入的40%来自推理处理。
如果只是在旧有游戏里的竞争，新玩家总是很难出头。不过时代总有新需求和新机会，正是行业的结构性调整为Groq这类专注推理优化的芯片厂商提供了战略窗口。“推理正在定义人工智能时代，我们正在构建能够高速、低成本地提供推理的美国基础设施。”Groq创始人兼首席执行官乔纳森·罗斯表示。
一、前谷歌工程师创业，挑战英伟达
Groq由一群前谷歌工程师于2016年创立，由AI加速器ASIC张量处理单元的设计者之一乔纳森·罗斯和前Google X工程师道格拉斯·怀特曼领导。乔纳森·罗斯在谷歌工作期间，负责开发TPU芯片，这是一种专为机器学习任务设计的处理器，至今仍在为谷歌云的AI服务提供支持。
TPU于2016年发布，同年Groq正式亮相。Groq以生产优化预训练模型的AI推理芯片而闻名。它所开发的芯片被称为语言处理单元，与通常用于AI系统的图形处理单元GPU有着显著区别。
在人工智能发展早期，芯片以训练为中心，如今业界正逐渐将重点转向为推理而设计的硬件。不管是英伟达，还是规模更小的竞争对手AMD，都准备提供更多专注于推理的芯片，强调即便在推理时代，其优势依旧明显。比如GTC2025上，英伟达推出了分布式推理服务库Dynamo，基于这个全新的服务库，可以实现新一代Blackwell GPU相比Hopper GPU 40倍的性能提升。
之所以受到投资人的青睐，正是因为Groq致力于打破英伟达的垄断。其产品面向开发者和企业，提供云服务或本地硬件集群两种形式。云和本地硬件都可以运行热门模型的开放版本，例如Meta、DeepSeek、Qwen、Mistral、Google和OpenAI的模型。Groq表示，其产品能够以比其他同类产品低得多的成本维持AI性能。
Groq也销售数据中心计算能力。2024年2月，Groq推出了开发者平台GroqCloud，吸引开发者使用Groq API并租用其芯片的访问权限。Groq还在一个月后收购了Definitive Intelligence，这是一家以提供一系列面向企业的AI解决方案而闻名的初创公司，可以帮助Groq完善其云平台。9月，Groq又宣布和中东石油巨头阿美公司的数字和技术子公司签署了一份谅解备忘录，宣称要“在沙特阿拉伯王国建立世界上最大的推理数据中心”。
在商业模式上，Groq和英伟达略有区别。英伟达属于软硬结合，两条腿走路，既卖GPU芯片和服务器等硬件，又通过CUDA平台绑定开发者。Groq则自建数据中心，将LPU组成服务器集群，提供云端推理算力租用服务，使得客户无需采购硬件即可尝试服务。
二、融了超过30亿美元，Groq会是新时代的英伟达吗？
曾有自称为Groq员工的网友在Reddit上称，公司的目标是三年内超越英伟达。英伟达的市值摆在那里，要挑战巨头，这一雄心自然能吸引来不少愿意为之买单的投资人。据PitchBook估计，Groq迄今已融资超过30亿美元。
2017年，Groq从Social Capital的Chamath Palihapitiya获得了1000万美元的种子资金。此后几年，Groq还没混成投资圈的宠儿，只拿了三轮小规模融资，累计约6000万美元。
2021年4月，Groq在由Tiger Global Management和D1 Capital Partners领投的C轮融资中筹集了3亿美元。其他投资者包括：The Spruce House Partnership、Addition、GCM Grosvenor、Xⁿ、Firebolt Ventures、General Global Capital和Tru Arrow Partners，以及来自TDK Ventures、XTX Ventures、Boardman Bay Capital Management和Infinitum Partners的后续投资。在C轮融资之后，它的估值超过10亿美元，正式跻身独角兽行列。
2024年8月，在由贝莱德私募股权合伙人领投的D轮融资中，Groq又筹集了6.4亿美元，公司估值达到28亿美元。
除了挑战英伟达的好故事，要想让现在的投资人掏钱，必须得用数据说话。此次融资披露的数据显示，Groq为超过200万名开发人员的AI应用程序提供支持，而一年前在接受TechCrunch采访时，这一数字为35万，如此迅猛的用户增长速度令人惊讶。
那么，Groq要想超越英伟达，到底有多少可能性呢？
首先，必须明确一点，Groq不是通用GPU，而是专门为transformer类推理计算设计的芯片。极高的吞吐和极快的推理速度是其优势，Groq宣称LPU能实现每秒数百token的生成速度，远超常规GPU的推理速度。但天下没有免费的午餐，LPU卡的成本也更高。此外，Groq的芯片更强调低延迟和稳定响应，适合对话、搜索、Agent等交互式AI应用，能效比高。
纵然Groq有自己的优势，也要看到，英伟达的优势不在于局部，而是生态。CUDA生态是英伟达的巨大护城河，而Groq需要从零建立工具链和开发者社区。与此同时，Groq当前优势主要体现在中小规模模型推理，大规模模型支持能力仍待验证。SemiAnalysis的分析指出，Groq的性能数据部分来自于在较旧工艺节点实现的高效设计，但这也意味着其能效优势建立在有限规模之上。如果想在大规模商业化中与英伟达抗衡，Groq必须进入更先进的制程，这需要更大资本投入和代工厂资源。而且企业对英伟达软硬一体化方案有一定的依赖度，迁移成本不低。
因此，综合来看，Groq在细分市场可能胜出，但短期内仍然难以威胁英伟达的主导地位。
想要挑战英伟达的创业公司当然不只Groq。专注大模型训练的Cerebras已提交IPO申请，计划融资10亿美元，估值达80亿美元。Cerebras 2016年成立于硅谷，主要面向AI大模型训练，强调超大算力、超高内存带宽。其策略也是先切细分市场，典型应用场景是，科研机构、云服务商和医药公司用来训练超大规模神经网络。
类似这样的竞争者共同构成了对英伟达的差异化包围，但尚未形成系统性威胁——英伟达仍占据全球AI云端训练市场80%的市场份额。
但从另外一个角度来说，我们还是乐见有更多新公司能借助新的技术路线冒头，把桌子掀翻。回到开头英伟达和OpenAI的合作，英伟达给OpenAI投资，OpenAI给甲骨文付费买算力，甲骨文从英伟达买芯片补充算力。不管AI是不是泡沫，三家科技巨头相互抬轿子，至少眼下大家在二级市场的股价都高高的。要是这时突然冒出一个陌生面孔，把局搅乱，不管会不会重构秩序，故事高低能更精彩一点。
