360数字安全 11月06日 22:45
360以“以模制模”技术引领AI安全中国方案
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

在2025年世界互联网大会乌镇峰会上,360的“安全智能体‘以模制模’技术创新及应用”荣登《科技之魅》,标志着其在大模型安全领域的突破获得国际认可。面对AI技术带来的新型安全挑战,360提出“AI重塑安全”理念,利用海量安全数据和安全垂类大模型,开发了一系列安全智能体,赋能千行百业。为应对大模型自身的安全风险,360首创“以模制模”理念,通过360大模型卫士,运用AI检测和防范大模型安全问题,如提示注入、数据泄露等,并在政务、金融等多个领域实现成功应用。360还积极推动行业安全建设,参与国家标准制定,成立大模型安全联盟,构建开放可信的AI安全生态。

🛡️ **AI重塑安全,智能体赋能千行百业**:面对人工智能技术带来的新型安全挑战,360提出“AI重塑安全”的理念,并依托其在数字安全和人工智能领域的双重能力,构建安全垂类大模型,开发出面向实战的安全智能体。这些智能体能够有效处理终端行为归因、网络告警研判、钓鱼邮件解析等专项安全任务,帮助企业以低成本、高效率的方式提升安全防护能力,实现全天候安全守护。

💡 **“以模制模”理念,守护AI自身安全**:针对大模型自身面临的安全性问题,360首创“以模制模”的理念,即利用AI大模型来检测和防范其他大模型可能存在的安全风险。360大模型卫士将安全智能体深度集成到大模型全生命周期的安全防护体系中,能够有效应对提示注入攻击、数据隐私泄露、内容错误、模型幻觉及智能体失控等问题,为AI技术的安全应用提供了坚实的保障。

✅ **实战验证,成果显著**:360大模型卫士已经在政务、金融、能源、互联网等多个领域完成了数十家客户的交付和近百个POC验证。例如,在某智慧政务内容安全保障项目中,该卫士日均检测不良内容和代答信息千余条,回复安全率和风险识别准确率均超过99%,有力地保障了政务工作的安全运行。在支持某监管部门大模型备案监管方面,也提供了强有力的数据支持和决策依据。

🌐 **共建AI安全生态,推动行业标准化**:360积极推动行业大模型安全建设,作为中国“国家人工智能标准化总体组大模型专题组”组长单位,深度参与多项国家标准的制定。同时,360牵头成立“大模型安全联盟”,联合产学研用各方资源,构建开放、协同、共治的大模型安全产业生态,并积极开展安全能力培训和攻防竞赛,提升全行业的安全意识和防护水平。

2025-11-06 18:24 北京

引领AI安全中国方案

News Today

近日,在2025年世界互联网大会乌镇峰会上,360“安全智能体‘以模制模’技术创新及应用”被收录于世界互联网大会领先科技奖收录成果集《科技之魅》。此次入选,标志着360在大模型安全领域的创新成果再次获得国际权威认可,展现了其在人工智能安全方面的全球领先地位。

世界互联网大会领先科技奖由世界互联网大会主办,旨在奖励全球年度最具领先性的互联网科技成果,倡导互联网技术国际交流合作。本年度领先科技奖共征集到来自34个国家的400余项科技成果。经全球互联网领域权威专家多轮评审,包括360安全智能体在内的多项前沿成果脱颖而出,收录于2025年度《科技之魅》。

智能体赋能千行百业

360首提“AI重塑安全”

随着人工智能技术向千行百业深度渗透与赋能,数字化转型与智能化升级在显著提升运营效能的同时,也催生了前所未有的新型安全挑战。传统安全防护体系在应对这些新兴安全威胁时显得力不从心,亟待智能化升级以实现防护能力的革新与提升。

作为国内唯一兼具数字安全和人工智能双重能力的企业,360提出用AI重塑安全并持续推进智能体落地应用。依托海量安全数据,360以CoE多专家协同安全大模型架构为基础,通过安全场景专项化训练,形成安全垂类大模型,完成终端行为归因、网络告警研判、钓鱼邮件深度解析等专项安全任务,推出一系列面向实战的安全智能体,帮助企业进行针对性安全防护能力提升,低成本、高效率地实现24小时不间断安全守护。

直面AI安全新挑战

360首创“以模制模”理念

当大模型成为新的生产力工具,其自身的安全性问题也浮出水面,守护AI自身的安全变得刻不容缓。360很早就开始关注大模型安全风险,提出“可靠、可信、向善、可控”四大原则。基于“以模制模”的理念,利用AI大模型来检测和防范大模型可能出现的安全风险,将安全智能体深度融入大模型全生命周期的安全防护体系,推出360大模型卫士。

360大模型卫士能够针对性解决大模型遭受提示注入攻击、数据隐私泄露、内容出错、幻觉及智能体失控等问题,内置合规化检测场景、行业监管场景、宽松场景,平衡业务需求与监管目标,为AI技术安全应用筑牢防线,持续提升安全能力水平。为应对人工智能安全新挑战提供了切实可行的解决方案。

实战成效显著

360大模型卫士成果斐然

目前,360大模型卫士已在政务、金融、能源、互联网等多个领域完成数十家客户交付与近百个POC验证,为用户AI应用筑牢可靠安全防线。

在某智慧政务内容安全保障过程中,360大模型卫士日均检测不良内容1000余条,业务代答900余条,回复安全率超99%,风险识别准确率达99%以上,守护政务工作安全基线,有力推动政府智能化转型。

在支撑某监管部门大模型备案监管方面,360大模型卫士接入8个备案大模型,完成100+检查,积累专项评测数据集超100万条,为监管部门提供了强有力的数据支持与决策依据。

共建AI安全生态

360推动行业安全建设

360始终积极推动行业大模型安全建设,致力于构建开放、可信的AI安全生态。作为中国“国家人工智能标准化总体组大模型专题组”组长单位,公司深度参与多项大模型国家标准的制定工作,系统推进AI安全标准体系建设,积极参与构建技术规范、评测体系与服务能力评估框架,全面助力行业走向规范化与标准化。

为进一步凝聚产业力量,360牵头成立“大模型安全联盟”,联合产学研用各方资源,构建开放、协同、共治的大模型安全产业生态。同时,通过开展安全能力培训、举办安全攻防竞赛等多种方式,360持续带动全行业提升安全意识与防护水平,推动成熟可靠的AI安全技术在更广泛场景中落地并释放价值。

本次“360安全智能体‘以模制模’技术创新及应用”收录于世界互联网大会领先科技奖收录成果集《科技之魅》,不仅体现了360在AI与安全融合创新中的技术实力,更为全球人工智能安全治理提供了可复制、可推广的实践路径。360将继续完善大模型卫士产品体系,携手各界共建可靠、可信、向善、可控的AI安全生态,为智能时代发展保驾护航。

往期推荐

01

● 深度复盘美国NSA渗透攻击授时中心,360安全智能体蜂群引领政企防护升维

02

● 行业唯一!360大模型安全卫士斩获IDC五星评价

03

持续领跑!360安全智能体首批通过中国软件评测中心认证

04

● 政策东风起,360携13所“新双高”院校打造新质人才摇篮

阅读原文

跳转微信打开

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

360 AI安全 大模型安全 以模制模 安全智能体 世界互联网大会 AI Security Large Model Security Model-for-Model Security Intelligent Agent World Internet Conference
相关文章