智能体构建与运营平台
搜索文档
360重磅发布《大模型安全白皮书》 推动AI应用“安全、向善、可信、可控”
证券日报· 2025-11-09 11:07
白皮书核心内容 - 系统性归纳威胁大模型安全的五大关键风险:基础设施安全风险、内容安全风险、数据与知识库安全风险、智能体安全风险、用户端安全风险 [1] - 提出"外挂式安全+平台原生安全"双轨治理策略,形成全链路防护网 [1] - 核心理念为"外筑'以模治模'动态屏障,内固'平台原生'安全底座",旨在推动人工智能行业向安全、向善、可信、可控方向发展 [3] 大模型安全风险分类 - 基础设施安全风险包括设备控制、供应链漏洞、拒绝服务攻击及算力资源滥用 [1] - 内容安全风险涉及不符合核心价值观、虚假或违规内容、大模型幻觉及提示注入攻击 [1] - 数据与知识库安全风险表现为数据泄露、越权访问、隐私滥用和知识产权问题 [1] - 智能体安全风险源于其自主性增强,导致插件调用、算力调度等环节安全边界模糊 [1] - 用户端安全风险涵盖权限控制、API调用监控、恶意脚本执行及MCP执行安全 [1] 公司安全战略与产品 - 公司产品基于"平台原生安全"理念开发,将安全深度植入平台底层,满足国家与行业合规要求 [2] - 企业级知识库守护数据与知识安全,智能体构建和运营平台确保行为可控,智能体客户端筑牢用户端安全防线 [2] - 公司已将安全能力落地政务、金融、制造等行业,使大模型安全成为可落地的实战方案 [2] 行业影响与未来展望 - 白皮书在世界互联网大会乌镇峰会发布,为大模型应用拉起全链路安全防线 [3] - 未来将联合产学研各界,共同推动安全标准建设与技术共享,共建安全可信的AI生态 [2]
乌镇峰会,360首发《大模型安全白皮书》,拉起全链路安全防线
中金在线· 2025-11-08 04:50
白皮书核心发布 - 360数字安全集团在世界互联网大会乌镇峰会上正式发布《大模型安全白皮书》[1] - 白皮书首次系统性阐释大模型运行时的五大关键风险并提出核心理念与可落地解决方案[1] - 核心理念为“外筑‘以模治模’动态屏障,内固‘平台原生’安全底座”[1] 大模型安全风险分析 - 白皮书系统性归纳威胁大模型安全的五大关键风险[4] - 五大风险包括基础设施安全风险、内容安全风险、数据与知识库安全风险、智能体安全风险及用户端安全风险[5] - 风险相互交织形成复杂威胁矩阵,严重威胁个人权益、企业发展乃至国家安全[5] 双轨安全治理策略 - 白皮书提出“外挂式安全 + 平台原生安全”双轨治理策略[7] - 外挂式安全侧重模型外部防护,具备适配性强、部署成本低及响应迅速两大优势[9] - 平台原生安全聚焦将安全能力嵌入核心组件,强化配套组件安全与全流程合规管控[9] 纵深防御产品体系 - 解决方案通过七大核心产品能力组成纵深防御体系[10] - 外挂式安全体系包含四大产品,重点应对基础设施风险与内容风险[10] - 平台原生安全体系包含三大平台产品,从底层架构解决内生性安全挑战[10] 行业应用与未来展望 - 360已将相关能力落地政务、金融、制造等各行业[12] - 未来将联合产学研各界共同推动安全标准建设与技术共享[12]