报告行业投资评级 未提及相关内容 报告的核心观点 - 生成式AI正重塑各行业，但其安全问题成为发展瓶颈，未来AI安全将呈现安全左移与Al - Native安全开发运维成共识、从“单点防御”走向“体系化、智能化”、开放生态与责任共担成主流三大趋势 [142][144] - 火山引擎定位为Al云原生的可信安全基础设施提供者，构建“技术领先、治理完善、生态开放”的AI安全能力，致力于保障生成式AI安全 [27][142] 根据相关目录分别进行总结 1. 序言 - 基础模型能力边界拓展，从多模态表达和工作流演进，企业需统一管理模型服务等；企业从“单点试验”转向“平台化建设”，平衡公有云与私有化部署，适配业务选择模型 [16][17] - 生成式AI安全面临模型对抗等、数据层治理升级、应用层安全新面貌等挑战，需系统化治理和建立安全评测体系；企业要将“可解释、可审计、可问责”嵌入产品 [20][21][23][24] - 火山引擎主张提供可信、可控、合规的Al云原生基座，以“安全即服务”承载企业Al工作负载与治理能力，构建多层面AI安全能力 [27] 2. 生成式AI安全风险 - 监管合规风险方面，全球各国加快构建人工智能法律法规和监管框架，如欧盟《人工智能法案》、美国《人工智能创新未来法案》，中国相关法律和政策也不断完善，企业需关注合规 [31][32][33] - 数据隐私风险方面，生成式AI在数据收集、存储、训练、推理等过程存在隐私和数据安全风险，内部人员违规操作也是诱因 [36][37][38] - 生成式AI安全风险沿着“AI基础设施→大模型→智能体”链条相互作用，包括基础设施的算力滥用等风险、模型与平台的泄露等风险、智能体的注入等风险 [40][41][42] 3. 火山引擎生成式AI服务安全保障体系 3.1 生成式AI浪潮下的安全责任 - 合规责任包括备案合规、内容安全合规、内容标识合规，不同服务场景下企业和火山引擎承担不同责任 [47][48][49] - 隐私责任方面，不同构建AI工作负载方式下，企业和火山引擎对训练数据合规和客户数据安全承担不同责任 [55][56] - 安全责任方面，基础设施安全由火山引擎保障，模型安全在不同服务场景下企业和火山引擎责任不同 [59] 3.2 合规资质与认证 - 火山引擎大模型以服务技术支持者角色完成算法和服务备案，开展网络安全等级保护测评；积极参与标准制定，通过多个权威认证，保障平台安全合规 [61][62] 3.3 数据安全与隐私保护设计理念 - 生成式AI数据与隐私安全面临云上大模型数据安全、模型记忆和数据提取攻击、黑盒模型可解释性等挑战 [65] - 方舟提出安全互信计算框架，具有链路全加密、数据高保密、环境强隔离、操作可审计等特点，还有进阶机密部署模式，保障数据与隐私安全 [67][68][71] 3.4 生成式AI安全技术保障体系 - AI基础设施安全通过治理架构与规范体系、产品安全保障、平台基础防护、威胁情报与供应链、攻防演练与外部验证等平台基础安全和固件资产管理与漏洞响应等增强安全方案保障 [76][80][84] - AI模型与平台安全方面，火山方舟市场份额领先，模型安全遵循安全原则，在生命周期各阶段有不同治理重点；平台通过安全互信计算架构保障安全，有会话无痕等特点 [92][93][103] - AI智能体安全通过身份与权限管理、工具管理与准入、纵深防御与加固、前沿技术研究保障，定义风险评估方法，加固访问全链路 [114][120][139] 4. 总结 - 生成式AI行业安全未来有安全左移、体系化智能化、开放生态与责任共担三大趋势 [144] - 火山引擎致力于为企业提供可信、可控、合规的Al云原生基座，护航生成式AI发展 [142]