Workflow
人工智能下半场 智能体技术重构安全生态
中国产业经济信息网·2025-08-26 03:23

人工智能战略与政策支持 - 国务院常务会议审议通过《关于深入实施"人工智能+"行动的意见》,推动AI发展进入"技术攻坚+场景落地+安全护航"三位一体新阶段 [1] - 人工智能是培育新质生产力的核心引擎,深度融入产业核心领域并驱动产业变革 [1][2] 技术发展与产业应用 - 人工智能技术加速迭代,创新呈群体性突破之势,与实体经济深度融合特征明显 [2] - 大模型突破引领人类社会进入智能化时代,智能体能够理解目标、规划任务、调用工具并具备记忆,推动人机交互范式根本性变革 [2] - 基础大模型在垂直领域面临专业知识不足和场景适应性有限的"最后一公里"挑战 [7] - 企业智能化升级需依托算力支撑、模型研发、数据智能处理和应用开发等多维度AI基础设施 [9] 安全风险与挑战 - 技术脆弱性带来内生安全风险,恶意利用放大安全危机,治理复杂性日益凸显 [3] - 黑客组织可将黑客经验训练进大模型打造智能体黑客,将网络攻防变为人与智能体对抗,加剧网络不对称性 [4] - 全球网络攻击事件迅猛增加,攻击手段复杂隐蔽,需加强网络安全措施和新型威胁响应能力 [4] - 大模型存在系统安全、内容安全及幻觉等特有风险,需加速AI技术与安全防护深度耦合 [4] 智能体技术演进 - 智能体技术重构安全攻防体系,从被动防御转向主动免疫,从单点防护升级为全域协同 [6][7] - 大模型进化到智能体是必然趋势,智能体是AI从"能思考"迈向"能做事"的关键载体 [7] - 智能体发展分为L1(简单知识问答)、L2(预设流程提升效率)、L3(单领域深度推理)三个阶段 [8] - AI正处于从"答得妙"迈向"靠得住"的关键转折节点,需共建韧性智能体生态 [8] 行业协同与技术创新 - 需大模型技术提供方与金融、医疗、制造、能源、交通等垂直行业龙头企业紧密协作,构建高质量专业语料库 [11] - 需持续聚焦模型效率优化,投入模型压缩、高效训练和推理加速技术,降低计算与能耗成本 [11] - 需构建覆盖预测、防御、检测、响应、恢复全生命周期的体系化安全运营框架 [11] - 需加强国际协作,在AI伦理准则、数据跨境规则、网络安全威胁情报共享等领域深化对话 [12] 基础设施与产业生态 - 需聚焦深度学习框架、智能芯片等关键领域攻坚突破,加快自主创新步伐 [10] - 需构建通用与专用相结合模型体系,加快构建安全可靠、绿色高效的智能算力基础设施 [10] - 需强化芯片、服务器等底层硬件自主保障能力,筑牢基础设施安全底座 [10] - 需加强人工智能与安全产业深度融合双向赋能,培育壮大安全产业 [10]