论坛背景与核心议题 - 2025年“人工智能与安全论坛”在北京成功举办，聚焦AI安全治理前沿议题，旨在推动构建可信、协同、韧性的AI安全新生态 [1] - 安全已成为支撑人工智能产业高质量发展的核心底座，论坛汇聚政产学研多方力量，发布多项研究成果、评估体系与行业标准 [1] 政策与战略方向 - 专家提出筑牢技术根基、深化融合应用、完善治理生态三点建议，以构建具备内生安全能力的人工智能底座 [1] - “十五五”规划建议提出加强人工智能等新兴领域国家安全能力建设，未来工作将围绕政策引领、夯实安全基础、强化技术攻关展开 [2] - 坚持发展与安全并重、统筹创新应用与安全治理是保障人工智能健康有序发展的核心前提 [2] 行业标准与评估体系 - 中国信通院发布系列AI安全研究成果及最新一批“可信安全”评估结果，覆盖可信云安全、可信AI云安全等领域 [2] - 论坛正式启动《AI原生云安全能力成熟度要求》标准研制工作，旨在明确核心维度、评价框架与指标体系 [5] 技术创新与应用实践 - 随着大模型与智能体技术快速演进，云上智能体在政务、金融、通信、能源等关键领域规模化落地，但新型风险日益凸显 [3] - 传统安全工具难以应对AI催生的新型威胁，“AI对抗AI”将成为未来防护核心方向，安全体系正向内生防御、主动智能与韧性自治转型 [4] - 企业专家围绕可信AI实践、大模型安全运营、AI安全新基建、Agentic SOC等主题展开案例分享 [5] 研究报告与安全指引 - 发布《云上智能体安全发展研究报告》，系统梳理智能体安全挑战与防护路径，为云厂商、安全企业及行业用户提供建设指引 [3] - 发布《端云协同 智能体交互双重授权安全指引》，倡导建立“用户+应用”双重授权机制，以应对交互复杂度激增带来的隐私与数据泄露风险 [3] 产业生态与竞赛成果 - 首届“AI领航杯”“人工智能+”应用与技能大赛中，“AI+安全”赛道评选出48个获奖项目，包括3个一等奖、8个二等奖、15个三等奖及22个优秀奖 [3] - 产业界一致认为需构建开放协同的产业生态以实现安全与发展双赢，中国信通院将持续通过标准制定、测试评估、生态对接推动产业发展 [5]