AI应用边界与安全风险 - AI智能体已广泛普及并可能超越手机成为更贴近生活的设备 人工智能安全成为极其重要的研究方向[1] - AI领域需重点关注三类风险：智能体输出正确性与价值观问题 智能无人系统与物理领域安全问题 AI生成内容的安全隐忧[1] - AI应用边界从数字空间延伸至物理世界 决策透明性与可解释性成为关键 需同时关注结果正确和原因正确[1] 医疗领域AI应用挑战 - 医疗领域AI大模型应用面临四大挑战：数据来源 数据采集 范式创新和部署安全[2] - 应采用数据脱敏 权限分级管理 联邦学习 云边协同等技术手段减少对原始数据的依赖[2] - 实现"数据留在医院 算法跑在云端 参数交互共享"模式 通过全流程审计机制筑牢安全防线[2] AI跨界融合应用场景 - AI在各行业及学科间发挥催化剂和粘合剂作用[2] - 智能制造领域：AI与数字孪生 物联网技术结合实现工厂数字化建模和自动化巡检[2] - 智慧教育领域：大模型助力试卷自动批改 构建学生能力图谱并定制个性化学习方案[2] - 智慧旅游领域：三维实景与VR 大模型技术融合提供低空飞行安全保障和升级游客沉浸式体验[2] 网络安全攻防新态势 - AI介入使网络安全风险从信息域延伸至物理域 加剧攻防双方不对称性[3] - 攻击方可借助AI更快发现漏洞并实施攻击 防御方需依托AI提升分析和威胁识别效率[3] - 需实现政府 企业 行业 高校 研究所等多方联动 从情报源头监测到资源共享[3] AI实战能力提升路径 - AI智能体理论知识丰富甚至超越资深从业者 但实际解决问题能力仍存在不足[3] - 通过举办网络安全竞赛让AI智能体以攻方或守方身份参与实战[3] - 在实战中暴露不足并迭代优化 提高解决实际问题能力[3] 网络安全防御理念 - 网络安全是动态防御而非静态工程 需构建持续对抗能力[5] - 产业协同与生态联防是应对新型威胁的关键[5]