安小圈 09月12日
生成式AI冲击网络安全入门岗,AI增强型岗位需求增长
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

生成式AI正在改变网络安全岗位结构,入门级岗位受冲击,AI增强型岗位需求增长。新兴岗位包括防御性AI安全、AI驱动安全运营、AI风险与治理、AI取证与研发,要求人才掌握AI技能与批判性思维。金融、医疗、政府及科技公司等行业对AI安全专业人才需求快速上升,行业人才缺口显著。

🔧 生成式AI正在冲击网络安全领域的入门级岗位,例如SOC分析师,未来可能会出现人力向AI转变的趋势。

🚀 AI增强型岗位需求不断增长,例如AI安全工程师、AI安全架构师等,要求人才掌握AI技能和批判性思维。

🛡️ 新兴的AI网络安全岗位包括防御性AI安全、AI驱动的安全运营、AI风险与治理、AI取证与研发等,需要人才具备AI安全专业知识。

🏦 金融、医疗、政府及科技公司等行业对AI安全专业人才需求快速上升,行业人才缺口显著。

🧠 网络安全人才应重点培养编程与AI框架、SOC转型技能、批判性思维与攻防思维、治理与伦理、研究与创新等技能,以应对AI驱动的网络安全新生态。

2025-09-11 08:45 上海


安小圈

第752期

    生成式AI正在改变网络安全岗位结构:入门级岗位受冲击,AI增强型岗位需求增长。

    新兴岗位包括防御性AI安全、AI驱动安全运营、AI风险与治理、AI取证与研发,要求人才掌握AI技能与批判性思维。

    金融、医疗、政府及科技公司等行业对AI安全专业人才需求快速上升,行业人才缺口显著。

01

AI对网络安全就业的冲击与机遇

“人工智能要抢我的工作了”——这是许多技术从业者的常见担忧。我们都听说过,入门级岗位将由AI执行,大多数低技能技术岗位要么被AI完全替代,要么被AI增强,从而减少完成任务所需的团队人数。

行业报告显示,2022年末到2025年中,22–25岁的软件开发人员在最容易受到AI影响的岗位上的就业下降了近20%。

生成式AI工具如今能够编写模板化代码、生成文档、处理工单。此外,企业公开表示,他们希望利用AI来满足增长需求,而不是招聘初级资源。

虽然这对在校生和转型进入网络安全的人来说可能令人紧张,但报告也带来了希望的信号。AI增强型岗位(非被AI取代,而是由AI加强)有所增长。许多组织发现,他们需要全新的技能组合来保护AI系统、利用AI提升安全、并管理AI给运营带来的风险。

这不仅仅是将AI工具加入现有安全工作流程,而是催生了几个月前甚至还不存在的全新岗位类别。

02

入门岗位的压力与AI增强岗位的机会

入门级网络安全岗位本身就存在招聘困难的问题。随着预算缩减、组织变化及竞争激烈,企业在招聘时更加挑剔,更看重技能(质量)而非数量。AI对许多入门级及低技能岗位造成压力,如SOC分析师岗位,未来几个月和几年可能会出现由人力向AI转变的显著变化。

然而,人机结合带来了新的机会。AI驱动的安全岗位不断涌现,AI技能需求持续增长。据Resume Genius调查,目前81%的招聘经理将AI技能列为招聘优先事项。

新的岗位正在涌现以应对AI使用带来的风险、伦理和治理挑战。例如,AI/ML安全软件工程师、AI安全架构师,这类岗位在招聘网站上很常见,其岗位描述如下:

岗位概述

招聘高级AI安全工程师,负责设计和实施针对大语言模型(LLM)扫描与治理的安全解决方案。该岗位位于应用安全、AI治理和机器学习框架的交汇处,帮助定义企业安全采用AI的标准。

核心职责

设计并解决应用生态系统中与LLM相关的安全问题;

研究新兴威胁(如提示注入、模型投毒)并提出企业级控制方案;

按SLA标准维护服务的可靠性与高效运营。

岗位要求

5年以上安全工程经验;

有生成式AI产品开发与部署经验;

熟悉应用安全工具(SAST、DAST、OWASP Top10)及DevSecOps实践;

精通Python、Rust、Go编程及ML框架(PyTorch、TensorFlow、HuggingFace);

熟悉云基础设施;

理解AI治理、隐私与对抗性ML威胁。

03

未来可能出现的AI网络安全岗位

1

防御性AI安全

保护AI系统免受对抗性攻击、数据投毒和模型窃取。

技能要求:理解AI威胁、AI模型和LLM的安全风险、OWASP Top10 LLM攻击;精通机器学习算法、对抗性ML、AI系统架构;熟练Python编程,掌握TensorFlow或PyTorch;拥有安全工具、威胁情报和云安全经验。

此外,该岗位需检测数据投毒行为,与其他团队合作确保AI应用安全,并利用MITREATLAS框架映射AI特有攻击模式与防御措施。

2

AI驱动的安全运营

AI增强型SOC分析师利用AI提升威胁检测和响应能力。

技能要求:分析师需掌握自然语言处理以提取威胁情报,自动化调查流程收集证据,并基于预测风险评分优先处理警报。

尽管这是对传统SOC岗位的延伸,但随着企业发现AI能扩大覆盖范围并减少误报,这类岗位需求将持续增长。

3

AI风险与治理

AI风险分析师和治理专员通过风险评估和合规框架确保AI负责任部署。持有AIGP认证的专业人士能够保障AI安全与可信赖。

技能要求:要求理解AI系统及应用场景、AI影响评估、负责任AI原则,以及法律法规的适用。还需具备批判性思维能力,处理前所未有的伦理问题和治理挑战。

4

AI取证与调查

AI取证专家结合传统数字取证与AI环境技术,分析模型行为、追踪对抗性攻击,并在法律诉讼中提供证据。

技能要求:该岗位需掌握机器学习算法、模型开发流程,并确保数据采集、训练和部署环节合规可靠。

5

AI安全研发

AI安全研究员致力于创新防御技术和攻击方法,同时推进AI安全研究。

技能要求:掌握机器学习算法和框架、编程技能及网络安全工具,结合特定行业场景进行研究、攻防实验及学术交流。

04

行业AI安全挑战催生新方向

1

金融服务

金融机构使用AI系统处理巨额资金,算法交易失误可能引发市场混乱。企业需招聘既懂机器学习漏洞又熟悉金融法规的人才,以审计算法交易系统的安全风险。

2

医疗健康

AI临床决策系统风险高,稍有差错可能危及患者安全。专业人才需掌握HIPAA隐私要求、对抗性机器学习攻击防护,并确保临床AI系统安全可靠。

3

政府与国防

AI控制关键基础设施或武器系统,安全失误可能构成战争行为。专业人才需兼顾技术复杂性与安全审批要求,应对国家安全风险。

4

科技公司

AI原生企业需从零构建安全团队,既开发AI自动化安全工具,又保护自身系统。岗位要求前沿,薪资高,但职业路径尚不明确。

05

网络安全人才应重点培养的技能

面对 AI 驱动的网络安全新生态,专业人才不仅需要掌握传统的网络安全知识,更需拓展多维技能,以应对新兴的技术挑战和复杂威胁。基于此,核心能力可概括为

编程与AI框架:熟悉Python、TensorFlow、PyTorch,理解神经网络原理。

SOC转型技能:自然语言处理、行为分析、MITREATLAS框架。

批判性思维与攻防思维:理解对抗性示例、数据投毒及AI特有攻击。

治理与伦理:关注AIGP认证,掌握AI法规与风险评估能力。

研究与创新:参与开源AI安全项目,发表成果并参与行业分享。

AI正在快速改变网络安全职业版图。早期从业者有机会定义全新岗位内容,将传统网络安全经验与AI/ML知识结合,应对未知威胁、治理风险并推动行业创新。适应不确定性、勇于探索前沿,将是未来网络安全人才的核心竞争力。

消息来源:Secureworld

 

END

【内容来源:安全客


微软紧急修复高危蠕虫级RCE漏洞,威胁全网Windows系统




突发!小红书惊现后门......

攻防演练在即:如何开展网络安全应急响应

【攻防演练】中钓鱼全流程梳理

[一文详解]网络安全【攻防演练】中的防御规划与实施

攻防必备 | 10款国产“两高一弱”专项解决方案

【干货】2024 攻防演练 · 期间 | 需关注的高危漏洞清单

攻防演练在即,10个物理安全问题不容忽视

红队视角!2024 | 国家级攻防演练100+必修高危漏洞合集(可下载)

【攻防演练】中钓鱼全流程梳理

攻防演练在即:如何开展网络安全应急响应

【零信任】落地的理想应用场景:攻防演练

【2025】常见的网络安全服务大全(汇总详解)

AI 安全 |《人工智能安全标准体系(V1.0)》(征求意见稿),附下载

2025年 · 网络威胁趋势【预测】

【实操】常见的安全事件及应急响应处

阅读原文

跳转微信打开

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

生成式AI 网络安全 AI安全 岗位结构 人才需求
相关文章