Workflow
风云卫大模型
icon
搜索文档
效率提升VS安全暴露,企业级AI落地如何应对“双刃剑”丨ToB产业观察
钛媒体APP· 2025-11-04 06:08
AI安全威胁的严重性与普遍性 - 提示词注入攻击在金融行业的发生率从2024年12%飙升至2025年三季度的47% [2] - 国内主流AI产品检出281个漏洞,其中超过60%(即169个)为传统安全体系无法覆盖的新型风险 [3] - 多模态大模型中,83%可被诱导生成涉暴图文,特殊指令攻击成功率高达70% [5] 新型AI安全漏洞与攻击手法 - 提示注入类漏洞被视作“头号威胁”,因其攻击门槛低且是实现其他攻击的“敲门砖” [4] - 智能体(Agent)应用带来新风险,如MCP协议漏洞和代码执行沙箱权限控制缺失 [5] - 攻击者通过“梯度反推算法”从金融大模型推理结果中还原出3万条用户信贷数据 [6] AI产业规模与安全投入增长 - 2024年中国人工智能产业规模超9000亿元,同比增长24% [2] - 预计到2028年,全球网络安全IT总投资规模将增至3770亿美元,五年复合增长率11.9% [3] - 中国网络安全市场预计从2023年110亿美元增长至2028年171亿美元,五年复合增长率9.2% [3] AI在安全防御领域的赋能作用 - 风云卫大模型对未知威胁检出率较传统方案提升60%,误报率降低35% [7] - 预计到2027年,25%的企业将采用GenAI助手生成安全策略以缩短响应时间 [8] - 安全大模型加持下,企业安全运营效率提升20%-30% [9] 安全行业的技术范式转变 - 安全防御正从基于签名的传统方法转向以AI为核心的动态防御体系 [8][9] - AI推动安全行业从“人工响应”迈向“智能自治”,重构防御范式并突破效率瓶颈 [10] - 超过半数参展厂商已将核心产品集成AI能力,行业正向安全智能体方向迈进 [10]
弈动 Dynamic·数智跃迁 博弈无界|2025TechWorld智慧安全大会在京召开
搜狐网· 2025-10-25 00:39
大会概况 - 2025 TechWorld智慧安全大会于10月24日在北京召开,主题为“弈动 Dynamic·数智跃迁 博弈无界” [1] - 大会是绿盟科技连续第十三年主办的行业盛会,已成为中国网络安全行业年度重要交流平台 [1] - 大会汇聚国家部委、院士学者、高校科研机构及企业专家,共议AI安全、数据安全与攻防对抗三大核心议题 [1] 公司战略与方向 - 绿盟科技以“数”与“智”为核心方向,聚焦AI安全、数据安全与实战攻防三大领域 [3] - 公司秉持开放、协同理念,致力于与产业伙伴共筑可信、可持续的智慧安全体系 [3] - 公司智慧安全理念从1.0的“连接,协同”演进至3.0的“全场景、可信任、实战化”安全运营能力 [15] AI安全领域 - 公司积极构建AI安全新生态,推动传统安全产品融入智能能力,并推出系列创新方案应对大模型应用趋势 [3] - 2023年公司发布风云卫大模型,确立以风云卫AI安全能力平台为核心打造AI+安全生态 [15] - 公司以“双域共生”、“动态净化”、“双路径推理”等核心技术探索大模型个性化持续学习与未知威胁检测 [17] - 大模型安全成为AI时代新攻防焦点,公司以“以模治模”理念构建四大安全智能体应对五大风险维度 [20] 数据安全领域 - 公司以“识别—保护—流通—治理”为主线完善数据要素安全体系,推动数据安全与合规 [3] - 公司以数据安全3.0为框架构建全生命周期防护体系,通过可信数据空间与AI智能体推动数据要素高效流转 [19] - 高质量数据治理被视为激活数据要素潜能、助力数字经济高质量发展的关键 [6] 实战攻防领域 - 公司持续强化体系化防御能力,依托智能化手段提升攻防效能,完善从风险发现到修复的闭环管理 [3] - 基于软件定义欺骗防御的“四蜜体系”通过平台化、可编程特性为主动防御提供新技术路径 [12] - 安全体系正经历从静态防守向动态博弈的根本性变革 [17] 行业趋势与外部观点 - 数字经济正从“数字产业化”向“产业数字化”全面延展,展现数字技术与实体经济深度融合趋势 [4] - 电力行业采用“开源+闭源”模式构建行业大模型,如国家电网“光明电力大模型”、南方电网“大瓦特”模型 [8] - 大模型使AI具备任务规划、世界知识推理等能力,AI软硬件呈现“双向奔赴”态势,算力成本不断下降 [11] - 应把AI安全纳入统一安全防护体系,按关键信息基础设施保护要求完善全链路防护 [8]