论坛背景与核心议题 - 2025年“人工智能与安全论坛”在北京成功举办，聚焦AI安全治理前沿议题，旨在推动构建可信、协同、韧性的AI安全新生态 [1] - 安全已成为支撑人工智能产业高质量发展的核心底座，论坛汇聚政产学研多方力量，发布多项研究成果、评估体系与行业标准 [1] 政策与战略方向 - 专家提出筑牢技术根基、深化融合应用、完善治理生态三点建议，以构建具备内生安全能力的人工智能底座 [1] - “十五五”规划建议提出加强人工智能等新兴领域国家安全能力建设，未来工作将围绕政策引领、夯实安全基础、强化技术攻关展开 [2] - 坚持发展与安全并重、统筹创新应用与安全治理是保障人工智能健康有序发展的核心前提 [2] 行业标准与评估体系 - 中国信通院发布系列AI安全研究成果及最新一批“可信安全”评估结果，覆盖可信云安全、可信AI云安全等领域 [2] - 论坛正式启动《AI原生云安全能力成熟度要求》标准研制工作，旨在明确核心维度、评价框架与指标体系 [5] 技术创新与应用实践 - 随着大模型与智能体技术快速演进，云上智能体在政务、金融、通信、能源等关键领域规模化落地，但新型风险日益凸显 [3] - 传统安全工具难以应对AI催生的新型威胁，“AI对抗AI”将成为未来防护核心方向，安全体系正向内生防御、主动智能与韧性自治转型 [4] - 企业专家围绕可信AI实践、大模型安全运营、AI安全新基建、Agentic SOC等主题展开案例分享 [5] 研究报告与安全指引 - 发布《云上智能体安全发展研究报告》，系统梳理智能体安全挑战与防护路径，为云厂商、安全企业及行业用户提供建设指引 [3] - 发布《端云协同 智能体交互双重授权安全指引》，倡导建立“用户+应用”双重授权机制，以应对交互复杂度激增带来的隐私与数据泄露风险 [3] 产业生态与竞赛成果 - 首届“AI领航杯”“人工智能+”应用与技能大赛中，“AI+安全”赛道评选出48个获奖项目，包括3个一等奖、8个二等奖、15个三等奖及22个优秀奖 [3] - 产业界一致认为需构建开放协同的产业生态以实现安全与发展双赢，中国信通院将持续通过标准制定、测试评估、生态对接推动产业发展 [5]

全球主流大模型频现包括虚假 / 有害内容生成、数据偏见、信息泄露等安全问题。例如，谷歌公司发布报告揭示，伊朗支持的攻击 者利用 Gemini 大模型发动网络攻击，开展钓鱼攻击活动，对防务专家及机构的网络与云环境进行渗透，监视与窃取机密信息，严 重威胁了国家信息安全；三星公司在引入 ChatGPT 后，短时间内便曝出多起机密资料外泄事件，导致三星公司半导体设备测量资 料、源代码、产品良率等机密内容瞬间外泄，且无法收回，严重影响了企业运营。我国同类人工智能模型的安全问题同样不容忽 视。当前，政府部门、华为等科技企业正积极推动国产大模型生态建设，并取得了显著成效。 然而，国产平台在框架健全性、开发者社区成熟度以及开源生态发展等方面仍然面临诸多挑战，整体尚处于起步阶段。据研究显 示，部分国产大模型早期版本在面对越狱攻击时的失守率高达 100%。这不仅暴露了当前大模型在安全技术层面的普遍脆弱性，也 对产业发展乃至国家安全构成潜在威胁。 针对这一全球性挑战，浙江大学联合华为计算产品线 重磅推出 DeepSeek-R1-Safe 基础大模型 。模型基于昇腾千卡集群，依托全 流程自主可控后训练框架完成训练，整体安全防御能力提 ...