AI & Big Data 08月15日
Google開源Gemma 3 270M,挑戰低資源部署
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

Google 正式开源其 Gemma 系列中最轻量的模型 Gemma 3 270M,该模型拥有 2.7 亿参数,专为设备端部署和特定任务微调而设计。其 INT4 量化版本仅需约 240MB 内存,可在手机、IoT 等低资源设备上高效运行,例如在 Pixel 9 Pro 上进行 25 轮对话仅消耗 0.75% 电量。Google 还提供了微调教学资源,支持开发者进行客制化开发,该模型适合处理情绪分析、实体识别等高频任务,并具备本地执行敏感数据的能力,是 Google 推动设备端 AI 战略的重要一步。

💡 Gemma 3 270M 是 Google Gemma 系列中参数量最少(2.7 亿)且专为设备端部署设计的轻量级模型。它在 Pixel 9 Pro 上实测显示出极低的能耗(25 轮对话仅耗 0.75% 电量),表明其在资源受限设备上的优异表现。

💾 该模型支持 INT4 量化,内存需求仅约 240MB,相比 BF16 格式(约 400MB)减少近 40%,使其能够顺利部署于手机、IoT 等低资源设备,降低了硬件门槛。

🛠️ Google 提供了完整的微调教学资源,支持开发者使用 Hugging Face Transformers 进行模型训练,可针对分类、数据抽取、情绪分析等多种应用进行客制化开发,提升模型的实用性和适应性。

🚀 Gemma 3 270M 尤其适合处理高频、任务明确的应用,如情绪分析、实体识别和查询分类。其快速微调和低延迟特性,以及本地执行敏感数据的能力,使其成为开发多任务小型模型的理想选择。

🌐 该模型是 Google 推动设备端 AI 战略的一部分,强调开源、可微调和跨平台部署。与针对极低资源设备优化的 Gemma 3n 形成互补,共同构建更广泛的设备端 AI 生态。

Google周四(8/14)開源Gemma 3 270M,這是Gemma系列中最輕量的版本,具備2.7億參數,它在Pixel 9 Pro上執行25輪對話僅耗0.75%電量。該模型專為特定任務微調與裝置端部署設計,具備指令遵循與文本結構化能力,而非通用型LLM。

Gemma 3 270M支援多種格式,其中INT4量化版本的記憶體需求約為240MB,相較BF16格式約400MB減少近4成,能在手機、IoT或其他低資源裝置上順利執行。

目前Gemma 3系列包含270M、1B、4B、12B與27B等不同規模版本。在Q4_0量化格式下,各模型的記憶體需求分別為240MB、892MB、3.4GB、8.7GB及21GB。Gemma 3 270M版本以最低記憶體門檻與最低功耗,成為目前系列中最適合部署於終端裝置的選擇。

Google也同步發布微調教學資源,包含以Hugging Face Transformers進行全模型訓練的完整流程,支援開發者針對分類、資料抽取、情緒分析等應用進行客製化。社群開發者也已透過transformers.js展示其在瀏覽器端的運行能力,證明Gemma 3 270M在Web環境中亦具備良好效能與可控性。

Gemma團隊表示,Gemma 3 270M適合處理高頻率、任務明確的應用,如情緒分析、實體辨識與查詢分類;能快速微調並部署於資源有限的裝置上,降低延遲與推論成本;模型可在本地執行,特別適合處理敏感資料;亦適用於開發多個專責任務的小型模型。

Gemma 3 270M與尚未開源的Gemma 3n同屬Google推動裝置端AI的戰略佈局。前者主打開源、可微調與跨平臺部署,後者則針對2GB RAM等極端低資源裝置優化,用於即時與離線運行。

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

Gemma 3 270M Google 设备端AI 开源模型 轻量级模型
相关文章