36氪 - 科技频道 09月29日 23:24
DeepSeek发布V3.2-Exp模型,引入稀疏注意力机制提升效率
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

DeepSeek于9月29日正式发布并开源了其实验性模型DeepSeek-V3.2-Exp。该模型在V3.1-Terminus的基础上,引入了DeepSeek Sparse Attention(DSA)稀疏注意力机制,旨在大幅提升长文本的训练和推理效率,同时在模型输出效果上基本保持与前代持平。此次更新还包括API价格的显著下调,成本降低超过50%。此外,文章还回顾了DeepSeek V3.1的混合推理架构、思考效率提升以及Agent能力的增强,并介绍了V3.1-Terminus版本在语言一致性和Agent表现上的改进。DeepSeek-V3.2-Exp的推理代码和算子实现已在昇腾上适配部署,并开源了TileLang与CUDA两种版本的算子。

🌟 **DeepSeek-V3.2-Exp模型发布与开源**:DeepSeek于9月29日正式发布了其实验性模型V3.2-Exp,并已在Huggingface和魔搭平台开源。官方App、网页端和小程序均已同步更新,同时大幅降低了API调用费用,为开发者提供了更经济高效的AI模型服务。

💡 **引入稀疏注意力机制(DSA)**:V3.2-Exp模型的核心创新在于引入了DeepSeek Sparse Attention(DSA),一种细粒度的稀疏注意力机制。该机制在几乎不影响模型输出效果的前提下,显著提升了处理长文本时的训练和推理效率,为大规模语言模型在处理长上下文场景下提供了新的解决方案。

🚀 **昇腾平台适配与算子开源**:华为昇腾平台已快速完成对DeepSeek-V3.2-Exp的适配部署,实现了对新模型的“0day”支持。同时,DeepSeek开源了推理代码和算子实现,包括使用高级语言TileLang快速原型开发的版本以及更高效的底层CUDA版本,便于开发者进行研究性实验和快速迭代。

💰 **API价格大幅下调**:得益于新模型服务成本的降低,DeepSeek将API价格下调了50%以上,极大地降低了开发者使用其API进行模型集成的成本,有望推动更多创新应用的落地。

📈 **V3.1版本回顾与改进**:文章回顾了DeepSeek V3.1版本的关键更新,包括支持思考与非思考模式的混合推理架构、更高的思考效率以及更强的Agent能力。随后更新的V3.1-Terminus版本进一步优化了语言一致性和Agent表现,输出效果更为稳定。

9月29日,DeepSeek-V3.2-Exp模型正式发布,并已在Huggingface与魔搭开源。目前,官方App、网页端、小程序均已同步更新为DeepSeek-V3.2-Exp,同时API大幅度降价。

据官方介绍,DeepSeek-V3.2-Exp 模型是一个实验性(Experimental)的版本。作为迈向新一代架构的中间步骤,V3.2-Exp 在 V3.1-Terminus 的基础上引入了 DeepSeek Sparse Attention(一种稀疏注意力机制),针对长文本的训练和推理效率进行了探索性的优化和验证。

具体来说,DeepSeek Sparse Attention(DSA)首次实现了细粒度稀疏注意力机制,在几乎不影响模型输出效果的前提下,实现了长文本训练和推理效率的大幅提升。

据“华为计算”微信公众号消息,9月29日,DeepSeek-V3.2-Exp发布并开源,引入稀疏Attention架构。昇腾已快速基于vLLM/SGLang等推理框架完成适配部署,实现DeepSeek-V3.2-Exp 0day支持,并面向开发者开源所有推理代码和算子实现。

DeepSeek还表示,在新模型的研究过程中,需要设计和实现很多新的GPU算子。官方使用高级语言TileLang进行快速原型开发,以支持更深入的探索。在最后阶段,以TileLang作为精度基线,逐步使用底层语言实现更高效的版本。因此,本次开源的主要算子包含TileLang与CUDA两种版本。官方建议社区在进行研究性实验时,使用基于TileLang的版本以方便调试和快速迭代。

得益于新模型服务成本的大幅降低,官方API价格也相应下调。在新的价格政策下,开发者调用DeepSeek API的成本将降低50%以上。

DeepSeek于8月21日正式发布 DeepSeek-V3.1,本次升级包含以下主要变化:首先是混合推理架构,一个模型同时支持思考模式与非思考模式;其次是更高的思考效率,相比 DeepSeek-R1-0528,DeepSeek-V3.1-Think 能在更短时间内给出答案;最后是更强的Agent能力,通过Post-Training优化,新模型在工具使用与智能体任务中的表现有较大提升。

9月22日,DeepSeek-V3.1更新至DeepSeek-V3.1-Terminus版本,此次更新在保持模型原有能力的基础上,针对用户反馈的问题进行了改进,包括:语言一致性,缓解了中英文混杂、偶发异常字符等情况;Agent 能力,进一步优化Code Agent与Search Agent的表现。官方表示,DeepSeek-V3.1-Terminus的输出效果相比前一版本更加稳定

为了严谨地评估引入稀疏注意力带来的影响,官方特意把DeepSeek-V3.2-Exp的训练设置与V3.1-Terminus进行了严格的对齐。在各领域的公开评测集上,DeepSeek-V3.2-Exp的表现与V3.1-Terminus基本持平。

本文来自“界面新闻”,记者:陈小同,36氪经授权发布。

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

DeepSeek V3.2-Exp 稀疏注意力 AI模型 开源 昇腾 API降价 Sparse Attention AI Model Open Source Ascend API Price Reduction
相关文章