近年来，深度伪造技术快速发展，生成内容愈发逼真，换脸攻击、身份冒用和欺诈事件在全球范围内频发，严重威胁个人隐私和金融安全。 9月24日，第十届信也科技杯全球人工智能算法大赛总决赛在上海举行，本届大赛的核心命题是开发能够精准识别真伪图像的算法，以应对跨国、跨场 景的深伪攻击挑战。本次决赛邀请复旦大学、浙江大学、中国科学院的多位专家学者担任评审，从技术路径、训练方法到应用价值，对选手的成果进行了深 入点评。 经过评审，冠军团队凭借在跨域识别方面的突出表现脱颖而出，他们的算法在多元场景下均保持高准确率。赛题组专家介绍，本届赛事鼓励选手运用深 度学习算法，在公开和大赛独家私有数据集上训练和验证模型，开发出能精准识别深伪图像的算法。大赛数据集包含十万规模的人脸鉴伪图片，且在地域、 人种、光照条件、图片质量等方面存在多重差异，模拟了金融科技企业在海外地区开展业务时面临的复杂情况，对算法的鲁棒性和跨域泛化能力提出了更高 要求。此外，大赛独家私有数据集还引入了由最新换脸技术生成的伪造样本，重点考察算法应对未知伪造手段的能力，难度进一步提升。 在答辩环节，选手们展现出扎实的技术功底，并提出了颇具启发性的技术思路。部分队伍发现， ...

人工智能战略定位 - AI从辅助工具跃升为驱动社会变革的核心引擎 国务院出台《人工智能＋》行动意见推动技术与应用双向赋能 [1] - AI成为高质量发展的关键增量 核心价值体现在赋能 减负 提质 增效四个维度 [3] - 意见紧扣全球科技趋势 以战略性布局引领方向 科学性设计推动融合 指导性举措明确路径 及时性部署抢抓机遇 [4] 产业赋能应用 - AI拓展科学研究认知边界 如AlphaFold破解蛋白质折叠难题 支持科研范式转型加速创新成果转化 [3] - 智能制造领域车企通过AI维护系统将设备故障率降低20% 教育领域AI定制学习路径 医疗领域成为智能助手 [3] - AI通过自动化技术将人们从危险繁重工作中解放 创造智能化就业机会和工作方式 关注民生提振消费 [3] - 社会治理领域提升应急效率 生态治理领域实现实时监测模拟推演 推进治理能力精准提升 [4] 技术风险挑战 - 大模型存在黑箱特征 不可解释性导致决策逻辑难理解 鲁棒性不足易受对抗攻击 幻觉问题生成虚假内容 [6] - AI价值观是数据投射 训练数据偏见被模型放大 可能无意识传播与主流价值观相悖内容 影响社会和谐 [6] - 深度伪造技术生成以假乱真音视频 海量数据依赖导致隐私泄露风险 AI驱动网络攻击威胁个人安全与社会稳定 [6] 安全治理体系 - 构建四位一体协同治理体系 完善法律法规体系 构建多元公共安全体系 建设网络空间治理体系 建立智能应急体系 [8] - 技术安全方面开发可解释AI使决策透明化 通过对抗训练提升模型抗攻击能力 研发内容真实性检测算法 [9] - 伦理安全方面通过强化学习将中华传统文化与社会主义核心价值观嵌入模型 优化内容审核与行为约束技术 [9] - 应用安全方面制定数据保密网络安全供应链安全管理办法 引导安全行业数智转型 提升公众风险意识 [9] - 国家安全层面加快建设全维度安全测评体系 参与全球治理规则和技术标准制定 推动智能向上向善理念 [9]

AI谣言生成现状 - AI工具被广泛用于快速生成虚假信息 高中生仅用5分47秒即可生成逼真霸凌通报[3] - 个人造谣案例频发 福建网民使用AI剪辑汛情谣言视频 浙江男子生成虚假寻人启事 云南网民制作交通事故伤亡视频[4][5] - 形成灰色产业链 山东某传媒公司利用AI工具编造并发布300余万条谣言内容 抓获87名犯罪嫌疑人 查获近10万个违法违规账号[6] AI工具技术特征 - 技术门槛极低 开源模型爆发增长 云端服务便捷 操作界面极简 普通用户可轻松生成表面逼真的虚假信息[6] - 免费或低成本获取 通过看广告获得积分即可使用文生视频、图生视频等功能 能快速生成汛情、火灾等主题的虚假内容[7] - 部分平台存在限制 某些AI软件拒绝生成警情通报类内容 并提示警徽等元素使用存在法律限制[8] 检测与防御技术进展 - 现有检测算法对已知伪造数据识别准确率超95% 但面临未知技术迭代的泛化性挑战[10] - 研发团队正挖掘跨模型共性异常特征 推动检测范式从"针对单点技术"向"驱动于共性特征"转变[10] - 构建"检测-溯源-防御"治理技术体系 推进轻量化设备部署与对抗性防御技术[10] 行业治理体系构建 - 需形成四维共治体系 个人提升媒介素养 平台部署AI检测系统并实施生成内容强制标识 技术社区研发鉴伪模型 监管部门完善立法[9] - 法规建设持续推进 《人工智能生成合成内容标识办法》要求所有合法模型对生成内容添加水印[9] - 应对未来风险 需重点关注深度伪造技术与社会工程学结合驱动的自动化攻击[10] 青少年媒介素养教育 - 全国45.7%青少年无法识别AI谣言 55.9%未成年人通过短视频获取新闻[13] - 长三角地区形成媒介素养联盟种子校 通过新闻争霸赛、融媒体中心建设等措施提升学生鉴别能力[13] - 2025年新学年启动跨省媒介素养联动计划 覆盖AIGC伦理、社会热点调查等领域 拟构建全国性教育体系[14]

AI造谣现象与案例 - 福州永泰网民王某某通过AI工具剪辑视频散布汛情谣言，扰乱社会秩序并误导防汛工作，已被行政处罚[2][5] - 浙江嘉兴一男子使用AI生成虚假"寻人启事"称女儿被抱走，经核查其未婚未育，已被行政拘留[6] - 云南赵某某利用AI制作交通事故伤亡视频并标注"大理州"造成恐慌，经核实为虚假警情，已被行政处罚[6] - 山东枣庄某传媒公司购买10万个实名账号，利用AI批量生产300余万条谣言视频图文，87名犯罪嫌疑人被抓获[8] AI造谣技术特点 - 免费AI工具可快速生成汛情、火灾等敏感主题虚假文案，5分47秒即可伪造包含法律条款的"警情通报"[5][10] - 普通景区照片经AI处理可变成"桥梁断裂事故"视频，文字生成视频工具能拼接新闻画面制造虚假汛情场景[10][12] - AI生成虚假内容技术门槛极低，开源模型爆发式增长和云端服务便捷化加剧了技术大众化趋势[8][12] 行业应对措施 - 暨南大学夏志华团队研发视觉深度伪造检测系统，通过挖掘跨模型共性异常特征提升泛化能力，现有算法对已知伪造识别准确率超95%[12][13][14] - 2025年3月出台《人工智能生成合成内容标识办法》要求合法模型必须对生成内容添加水印[13] - 构建"个人-平台-技术-监管"四维共治体系，包括平台部署AI检测系统、技术社区研发鉴伪模型、监管部门完善立法等[13] 教育领域行动 - 上海高中生实验显示45.7%青少年无法识别AI谣言，55.9%未成年人通过短视频获取新闻[15] - 长三角形成媒介素养联盟种子校，通过新闻争霸赛、融媒体中心建设等提升学生媒介素养[18] - 2025年将启动跨省媒介素养联动计划，覆盖AIGC伦理、社会热点调查等领域，探索全国性教育体系[18][19]

网络安全政策调整 - 美国总统特朗普6月6日的网络安全行政命令取消了加强数字身份验证的措施 [1] - 该命令未提供任何替代的机构指导 [1] - 企业面临失去与联邦政府在打击网络犯罪方面的长期合作关系的风险 [1] 监管机构职能削弱 - 网络安全基础设施安全局（CISA）等机构对软件提供商网络合规性的监督被削弱 [1] - 该命令旨在削减"未经证实且繁琐"的要求 [1] 安全威胁加剧 - 在人工智能（AI）深度伪造时代，与身份相关的安全威胁愈演愈烈 [1] - 深度伪造技术已被用来针对企业，诱使员工分享机密信息或转移巨额资金 [1]

国际证监会组织年会成果 - 香港证监会成功推动亚太区证券监管机构就加强合作打击网上投资骗局达成共识 [1] - 会议探讨了深度伪造技术进行的网上投资骗局及金融网红兴起等新兴风险 [1] - 香港证监会行政总裁梁凤仪重申亚太区协力打击网上骗局的坚定承诺 [1] 跨境监管合作进展 - 香港证监会与阿布扎比国际金融中心金融服务监管局、爱尔兰中央银行及加拿大安大略省证券事务监察委员会签订谅解备忘录 [2] - 香港证监会代表与中东、亚太、欧洲、北美及非洲地区监管同业举行双边会议 [2] 私募市场监管动态 - 国际证监会组织投资管理委员会主席蔡凤仪指出零售投资者涉足私募市场带来的风险及监管关注 [1] - 会议讨论了国际证监会组织对私募融资领域的应对工作 [1] 区域协作与政策协调 - 梁凤仪强调资本市场监管机构在贸易及地缘政治不明朗环境下需加强情报共享及跨境犯罪打击 [1] - 亚太区委员会向国际证监会组织汇报了加强合作的主要措施 [1]