第一财经头条 10月23日 22:18
欧盟AI监管框架:风险分类与金融领域考量
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

在2025外滩年会上,法兰西银行副行长阿格尼丝·贝纳西-奎里详细阐述了欧盟在人工智能(AI)监管方面的超前立场。她指出,欧盟《人工智能法》的核心在于风险管理,将AI系统依据风险程度划分为不可接受风险(禁止)、高风险(对健康、安全、基本权利有重大影响)、有限风险(需告知用户互动)及最小或无风险(无监管要求)四类。在金融领域,AI应用面临网络风险、服务商高度集中风险及“可解释性”风险。阿格尼丝强调,AI提升了风险监测能力,但也可能放大风险影响,因此欧盟致力于构建可信赖的AI体系,并呼吁国际社会共同遵循AI发展基本原则。

⚖️ **欧盟AI风险分类体系**:欧盟通过《人工智能法》将AI系统划分为四类风险:不可接受风险(如社会信用评分,直接禁止)、高风险(对健康、安全、基本权利有重大影响)、有限风险(需告知用户正在与AI互动)以及最小或无风险(无监管要求)。这一分级管理旨在平衡AI创新与风险防范,确保AI技术的负责任发展。

🌐 **金融领域AI面临的多重风险**:在金融应用中,AI系统面临三大关键风险:一是网络风险,金融机构是网络攻击的主要目标,AI可能加剧攻击的频率和复杂性;二是服务商高度集中风险,少数服务商的故障可能引发系统性操作风险和市场反应趋同,增加“闪崩”可能性;三是“可解释性”风险,过度依赖AI决策而缺乏人工验证,可能导致诉讼、责任及决策不稳等问题。

📈 **AI的双刃剑效应与监管必要性**:阿格尼丝·贝纳西-奎里指出,AI既能显著提升监管者监测风险的能力,同时也可能增强风险本身的潜在影响力。她认为,欧盟的AI监管虽然可能被视为“苛刻”,但其目的在于确立全球标准,确保AI发展遵循基本原则,并呼吁其他国家共同致力于此,构建一个可信赖且统一的AI治理框架。

阿格尼丝基于监管框架,将AI系统依据风险程度分为四类。

方兴未艾的人工智能(AI)正引发越来越多的关注。2025外滩年会上,法兰西伦理政治科学院院长、欧洲央行原行长特里谢在致辞中表示,以AI为代表的新兴技术,正让国际社会面临有史以来最重要的挑战。

而在随后谈及金融领域的AI治理与国际合作话题时法兰西银行副行长阿格尼丝·贝纳西-奎里在肯定AI带来效率显著提升的同时,着重从风险角度探讨了为何欧盟AI监管超前的问题。

“很多人觉得,欧盟在AI创新方面是落后者,但在AI监管方面却走在了最前面。因此,让一个欧洲人来聊这个话题,有点出人意料。”不过,阿格尼丝强调,2024年正式立法的欧盟《人工智能法》,其核心就是监管。

阿格尼丝基于监管框架,将AI系统依据风险程度分为四类:第一类是不可接受风险,如社会信用评分体系,这类风险是被直接禁止的。第二类是高风险,对健康、安全或基本权利有重大影响的情况。第三类是有限风险,需告知用户正在与AI系统互动。第四类是最小或无风险,这方面没有监管要求。

阿格尼丝表示,如同其他金融机构一样,法兰西银行也在开展许多AI项目,例如在反洗钱与反恐融资监管方面,“我认为欧盟正在构建一个可信赖、完整的AI体系,并从一开始就制定统一规则”。

在实际应用中,阿格尼丝认为AI系统存在另外三重风险:网络风险、服务商高度集中的风险、“可解释性”风险。

“我们已经看到,网络攻击的频率和复杂程度大幅增加。金融机构承受了全球大约一半的网络攻击,因为它们高度互联,所以这是一个系统性的风险来源。”阿格尼丝称。

服务商高度集中会导致操作风险及市场反应趋同,“服务商高度集中,如果服务商发生故障,金融市场会怎样?同时,因为行为相关性提高,市场反应趋同,交易速度加快,这可能增加‘闪崩’的发生频率。”

而所谓“可解释性”风险,阿格尼丝表示,如果决策完全依赖AI而缺乏人工验证,可能导致诉讼风险、责任风险,以及决策的不稳定性和不一致性。

阿格尼丝认为,AI是一柄双刃剑,既提升了监管者监测风险的能力,同时也增强了风险本身的潜在影响力。在这个意义上,她总结称:“欧盟在人工智能监管方面一直非常积极——也许被认为是‘苛刻’,但我们确立了标准。我们也希望其他国家能展示他们将如何确保人工智能的发展遵循这些基本原则。”

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

人工智能 AI监管 欧盟AI法 金融科技 风险管理 Artificial Intelligence AI Regulation EU AI Act FinTech Risk Management
相关文章