白皮书核心内容 - 系统性归纳威胁大模型安全的五大关键风险：基础设施安全风险、内容安全风险、数据与知识库安全风险、智能体安全风险、用户端安全风险 [1] - 提出"外挂式安全+平台原生安全"双轨治理策略，形成全链路防护网 [1] - 核心理念为"外筑'以模治模'动态屏障，内固'平台原生'安全底座"，旨在推动人工智能行业向安全、向善、可信、可控方向发展 [3] 大模型安全风险分类 - 基础设施安全风险包括设备控制、供应链漏洞、拒绝服务攻击及算力资源滥用 [1] - 内容安全风险涉及不符合核心价值观、虚假或违规内容、大模型幻觉及提示注入攻击 [1] - 数据与知识库安全风险表现为数据泄露、越权访问、隐私滥用和知识产权问题 [1] - 智能体安全风险源于其自主性增强，导致插件调用、算力调度等环节安全边界模糊 [1] - 用户端安全风险涵盖权限控制、API调用监控、恶意脚本执行及MCP执行安全 [1] 公司安全战略与产品 - 公司产品基于"平台原生安全"理念开发，将安全深度植入平台底层，满足国家与行业合规要求 [2] - 企业级知识库守护数据与知识安全，智能体构建和运营平台确保行为可控，智能体客户端筑牢用户端安全防线 [2] - 公司已将安全能力落地政务、金融、制造等行业，使大模型安全成为可落地的实战方案 [2] 行业影响与未来展望 - 白皮书在世界互联网大会乌镇峰会发布，为大模型应用拉起全链路安全防线 [3] - 未来将联合产学研各界，共同推动安全标准建设与技术共享，共建安全可信的AI生态 [2]

白皮书核心观点 - 360数字安全集团在世界互联网大会乌镇峰会上发布《大模型安全白皮书》[1] - 白皮书首次系统性阐释大模型运行时的五大关键风险并提出核心理念[1] - 核心理念为"外筑'以模治模'动态屏障，内固'平台原生'安全底座"[1] - 提供了可落地的安全解决方案，为大模型应用拉起全链路安全防线[1] - 旨在助力人工智能行业向"安全、向善、可信、可控"方向稳健发展[1] 大模型关键风险 - 基础设施安全风险：包括设备控制、供应链漏洞、拒绝服务攻击及算力资源滥用等问题[1] - 内容安全风险：涉及不符合核心价值观、虚假或违规内容、大模型幻觉及提示注入攻击等[1] - 数据与知识库安全风险：数据泄露、越权访问、隐私滥用和知识产权问题日益突出[1] - 智能体安全风险：随着智能体自主性增强，插件调用、算力调度等环节安全边界模糊[1] - 用户端安全风险：包括权限控制、API调用监控、恶意脚本执行以及MCP执行安全等[1] 安全治理策略与优势 - 提出"外挂式安全+平台原生安全"双轨治理策略，形成全链路防护网[2] - 外挂式安全灵活应对实时风险，平台原生安全从根源筑牢安全基础[2] - 策略具备适配性强、部署成本低两大优势，可作为通用组件快速接入不同企业环境[2] - 响应迅速，具备独立监测与拦截机制，可在毫秒级别识别并阻断实时威胁[2] 方案落地与未来规划 - 目前360已将这一能力落地政务、金融、制造等各行业[2] - 方案从理论转变为"能落地、能管用"的实战方案[2] - 未来将联合产学研各界，共同推动安全标准建设与技术共享[2] - 目标为携手共建安全、可信的AI生态[2]

文章核心观点 - 360数字安全集团发布《大模型安全白皮书》，系统性阐述大模型运行时的五大关键风险，并提出“外筑动态屏障，内固安全底座”的核心理念与可落地的全链路安全解决方案 [1] - 解决方案采用“外挂式安全+平台原生安全”双轨治理策略，通过七大核心产品能力构建纵深防御体系，旨在推动人工智能行业向安全可控方向稳健发展 [2][3] - 该能力已落地政务、金融、制造等行业，将联合产学研各界推动安全标准建设与技术共享 [4][5] 大模型安全风险归纳 - 基础设施安全风险包括设备控制、供应链漏洞、拒绝服务攻击及算力资源滥用等问题 [1] - 内容安全风险涉及不符合核心价值观、虚假或违规内容、大模型幻觉及提示注入攻击等 [1] - 数据与知识库安全风险包括数据泄露、越权访问、隐私滥用和知识产权问题 [1] - 智能体安全风险源于其自主性增强，导致插件调用、算力调度、数据流转等环节安全边界模糊 [1] - 用户端安全风险涵盖权限控制、API调用监控、恶意脚本执行及MCP执行安全等 [1] 外挂式安全策略 - 外挂式安全像AI的“外部保镖”，通过“以模治模”实现对算力主机、软件生态、输入输出内容及模型幻觉的主动监测与防御 [2][3] - 该方式具备适配性强、部署成本低两大优势，可作为通用组件快速接入不同企业环境，避免重复开发 [2] - 响应迅速，具备独立监测与拦截机制，可在毫秒级别识别并阻断实时威胁，如异常算力消耗或恶意内容 [2] - 具体产品包括大模型卫士算力主机安全系统、检测系统、防护系统、幻觉检测与缓解系统，构建外部屏障以应对基础设施与内容风险 [3] 平台原生安全策略 - 平台原生安全像AI的“内置铠甲”，将安全能力深度内嵌于核心组件，从根源筑牢安全基础 [2][4] - 聚焦大模型数据、知识库、智能体及客户端等环节，强化配套组件安全与全流程合规管控 [2] - 具体体现在企业级知识库、智能体构建和运营平台、智能体客户端三大平台产品上，解决数据泄露、智能体行为失控及终端滥用等内生性挑战 [4] - 将安全深度植入平台底层，全面满足国家与行业合规要求，为AI应用稳定运行奠定内生性基础 [2][4]

白皮书核心发布 - 360数字安全集团在世界互联网大会乌镇峰会上正式发布《大模型安全白皮书》[1] - 白皮书首次系统性阐释大模型运行时的五大关键风险并提出核心理念与可落地解决方案[1] - 核心理念为“外筑‘以模治模’动态屏障，内固‘平台原生’安全底座”[1] 大模型安全风险分析 - 白皮书系统性归纳威胁大模型安全的五大关键风险[4] - 五大风险包括基础设施安全风险、内容安全风险、数据与知识库安全风险、智能体安全风险及用户端安全风险[5] - 风险相互交织形成复杂威胁矩阵，严重威胁个人权益、企业发展乃至国家安全[5] 双轨安全治理策略 - 白皮书提出“外挂式安全 + 平台原生安全”双轨治理策略[7] - 外挂式安全侧重模型外部防护，具备适配性强、部署成本低及响应迅速两大优势[9] - 平台原生安全聚焦将安全能力嵌入核心组件，强化配套组件安全与全流程合规管控[9] 纵深防御产品体系 - 解决方案通过七大核心产品能力组成纵深防御体系[10] - 外挂式安全体系包含四大产品，重点应对基础设施风险与内容风险[10] - 平台原生安全体系包含三大平台产品，从底层架构解决内生性安全挑战[10] 行业应用与未来展望 - 360已将相关能力落地政务、金融、制造等各行业[12] - 未来将联合产学研各界共同推动安全标准建设与技术共享[12]