韩国警方为应对AI生成内容犯罪激增，计划投资91亿韩元开发多模态算法系统，以检测深度伪造文件和虚假信息。该系统将分析噪音和声音频率，识别深度伪造视频和AI生成声音，并追踪网络信息来源，旨在早期阻止假新闻和错误信息的传播。此外，韩国已通过《性暴力处罚法》修正案，严惩深度伪造淫秽影像的制作、传播和持有行为，最高可判处七年以上有期徒刑，以加强对网络犯罪的打击力度，该系统预计2027年12月完成。

👮‍♀️ 韩国警方将投入91亿韩元，开发一套基于多模态算法的系统，用于检测深度伪造文件和虚假信息，应对AI生成内容相关的犯罪案件激增。

🔊 该系统将通过分析噪音和声音频率，识别深度伪造视频和人工智能生成的声音，并追踪网络信息来源，以便在早期阶段应对和阻止假新闻和错误信息的传播。

⚖️ 韩国政府已通过《性暴力处罚法》修正案，严惩深度伪造淫秽影像的制作、传播和持有行为，持有者最高可处三年以下有期徒刑或3000万韩元罚金，制作和传播者最高可判处七年以上有期徒刑。

IT之家 2 月 2 日消息，据新华社报道，韩国多名官员 2 日说，警方将投资 91 亿韩元（IT之家备注：当前约 4569.1 万元人民币）开发一个可以查出深度伪造文件和虚假信息的系统，以应对涉及人工智能生成图像和声音的犯罪案件激增的状况。

韩联社援引官员的话报道，警方计划开发一个使用多模态算法的系统，通过分析噪音和声音频率查出深度伪造视频和人工智能生成的声音，并可追踪到网络信息来源，以便能在早期阶段应对和阻止假新闻和错误信息的传播。开发工作预计 2027 年 12 月完成。

IT之家注意到，韩国政府去年 10 日表决通过了《关于处罚性暴力犯罪的特例法》（简称《性暴力处罚法》修正案）。根据修正案，持有、购入、保存或收看深度伪造淫秽影像的人员可被处三年以下有期徒刑或 3000 万韩元（约合人民币 15.75 万元）的罚金。

据规定，对编辑、散布深度伪造淫秽影像的处罚力度从此前的五年以下有期徒刑上调至七年以下有期徒刑，若有牟利目的，处罚力度将从七年以下有期徒刑上调至三年以上有期徒刑。利用深度伪造淫秽影像恐吓可被判处一年以上有期徒刑。