文章核心观点 - 360数字安全集团发布《大模型安全白皮书》，系统性阐述大模型运行时的五大关键风险，并提出“外筑动态屏障，内固安全底座”的核心理念与可落地的全链路安全解决方案 [1] - 解决方案采用“外挂式安全+平台原生安全”双轨治理策略，通过七大核心产品能力构建纵深防御体系，旨在推动人工智能行业向安全可控方向稳健发展 [2][3] - 该能力已落地政务、金融、制造等行业，将联合产学研各界推动安全标准建设与技术共享 [4][5] 大模型安全风险归纳 - 基础设施安全风险包括设备控制、供应链漏洞、拒绝服务攻击及算力资源滥用等问题 [1] - 内容安全风险涉及不符合核心价值观、虚假或违规内容、大模型幻觉及提示注入攻击等 [1] - 数据与知识库安全风险包括数据泄露、越权访问、隐私滥用和知识产权问题 [1] - 智能体安全风险源于其自主性增强，导致插件调用、算力调度、数据流转等环节安全边界模糊 [1] - 用户端安全风险涵盖权限控制、API调用监控、恶意脚本执行及MCP执行安全等 [1] 外挂式安全策略 - 外挂式安全像AI的“外部保镖”，通过“以模治模”实现对算力主机、软件生态、输入输出内容及模型幻觉的主动监测与防御 [2][3] - 该方式具备适配性强、部署成本低两大优势，可作为通用组件快速接入不同企业环境，避免重复开发 [2] - 响应迅速，具备独立监测与拦截机制，可在毫秒级别识别并阻断实时威胁，如异常算力消耗或恶意内容 [2] - 具体产品包括大模型卫士算力主机安全系统、检测系统、防护系统、幻觉检测与缓解系统，构建外部屏障以应对基础设施与内容风险 [3] 平台原生安全策略 - 平台原生安全像AI的“内置铠甲”，将安全能力深度内嵌于核心组件，从根源筑牢安全基础 [2][4] - 聚焦大模型数据、知识库、智能体及客户端等环节，强化配套组件安全与全流程合规管控 [2] - 具体体现在企业级知识库、智能体构建和运营平台、智能体客户端三大平台产品上，解决数据泄露、智能体行为失控及终端滥用等内生性挑战 [4] - 将安全深度植入平台底层，全面满足国家与行业合规要求，为AI应用稳定运行奠定内生性基础 [2][4]

白皮书核心发布 - 360数字安全集团在世界互联网大会乌镇峰会上正式发布《大模型安全白皮书》[1] - 白皮书首次系统性阐释大模型运行时的五大关键风险并提出核心理念与可落地解决方案[1] - 核心理念为“外筑‘以模治模’动态屏障，内固‘平台原生’安全底座”[1] 大模型安全风险分析 - 白皮书系统性归纳威胁大模型安全的五大关键风险[4] - 五大风险包括基础设施安全风险、内容安全风险、数据与知识库安全风险、智能体安全风险及用户端安全风险[5] - 风险相互交织形成复杂威胁矩阵，严重威胁个人权益、企业发展乃至国家安全[5] 双轨安全治理策略 - 白皮书提出“外挂式安全 + 平台原生安全”双轨治理策略[7] - 外挂式安全侧重模型外部防护，具备适配性强、部署成本低及响应迅速两大优势[9] - 平台原生安全聚焦将安全能力嵌入核心组件，强化配套组件安全与全流程合规管控[9] 纵深防御产品体系 - 解决方案通过七大核心产品能力组成纵深防御体系[10] - 外挂式安全体系包含四大产品，重点应对基础设施风险与内容风险[10] - 平台原生安全体系包含三大平台产品，从底层架构解决内生性安全挑战[10] 行业应用与未来展望 - 360已将相关能力落地政务、金融、制造等各行业[12] - 未来将联合产学研各界共同推动安全标准建设与技术共享[12]