AI & Big Data 09月19日
Mistral AI 开源新版小型语言模型,支持多模态与本地部署
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

法国AI初创公司Mistral AI发布了其新一代小型语言模型Magistral Small 1.2,并选择开源。此次更新不仅在性能上有所提升,特别是在数学和编程测试中得分提高了15%,还新增了视觉编码功能,使其能够处理文本和图像混合输入。该模型还优化了工具使用能力,可以联网搜索、执行代码或生成图片。值得一提的是,Magistral Small 1.2支持本地部署,即使是配备32GB RAM的MacBook也能运行。此外,它还改进了响应的清晰度和自然度,并支持20多种语言。Mistral AI同时更新了Magistral Medium 1.2模型,同样加入了视觉支持,且两者均采用Apache 2.0协议开源,允许商业及非商业使用。

🚀 **性能与多模态能力的提升**:Magistral Small 1.2在1.1版本基础上进行了多项改进,包括数学和编程测试得分提升15%,并新增了视觉编码器,能够接收文本和图像的混合输入,使其推理能力扩展至视觉领域。

💻 **本地部署与广泛兼容性**:该模型支持在本地部署,经过量化处理后,可以在Nvidia RTX 4090 GPU平台或配备32GB RAM的MacBook等消费级硬件上运行,大大降低了使用门槛。

🛠️ **增强的工具使用与人性化交互**:Magistral Small 1.2改进了工具使用能力,能够利用外部工具进行网络搜索、代码执行或图像生成。同时,其回应更加清晰自然,排版和符号使用也更具美感,提升了用户体验。

🌍 **多语言支持与开放授权**:新模型支持包括英、法、德、西、中、日、韩在内的20多种语言。Mistral AI将其与Magistral Medium 1.2一同以Apache 2.0协议开源,允许用户自由进行商业或非商业用途的使用和修改。

法國AI新創公司Mistral AI本周公布並開源新版小語言模型Magistral Small 1.2,除了提升效能,增加視覺編碼功能,也能跑在MacBook電腦上。

Magistral Small 1.2為1.1版的升級,Mistral說明,它是以Mistral Small 3.2 (2506)為基礎開發,具備推理能力能在回答前執行一長串推理,並且經過監督式微調(SFT),訓練資料來源是推理模型家族的Magistral Medium推論時產生的軌跡,之後又加上強化式學習(RL)優化而成的高效率小型推理模型。Magistral Small 1.2參數量240億,具備最長128K脈絡空間。

Magistral Small系列都能於本地部署,經過量化(quantized)後可在Nvidia RTX 4090 GPU平臺的機器或是一臺32GB RAM的MacBook上執行。

相較於前一版,Magistral Small 1.2新增視覺編碼器,可接收多模態包括文字和圖片輸入,推理能力也擴及視覺。效能也提升,數學和程式撰寫標竿測試得分成長15%。它也改進了工具使用能力,能利用外部工具上網搜尋、執行程式碼或生成圖片。此外,新模型更人性化,它的回應更清晰、自然,文字排版或符號使用也美觀。

Magistral Small 1.2支援20多種語言,包括英、法、德、西、中、日、韓等。

Mistral同時也更新了推理模型Magistral Medium 1.2,新增視覺支援,如同Magistral Small 1.2,Medium版也具備最長128K脈絡空間。二個模型都是以Apache 2.0授權開源,允許商業或非商業用途的使用和修改。

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

Mistral AI Magistral Small 1.2 语言模型 AI 开源 多模态 本地部署 Large Language Model Open Source Multimodal Local Deployment
相关文章