活动概况 - 第四届828 B2B企业节于8月27日在贵阳开幕 由华为联合中软国际 软通动力等17家头部企业共同发起 旨在通过技术普惠和生态协作加速千行百业企业AI应用落地 [1] - 贵州作为全国国产智算资源最多 能力最强的地区之一 已三次吸引该活动落地 [1] - 活动聚焦智算 大模型 人工智能 数据等前沿技术 并展示最新数字产品与解决方案 [1] 政策与生态支持 - 国家数据局将健全政策体系 推动企业数据开发利用 深化政企协同 培育数据产业 建设数据基础设施 引导数据企业出海 [1] - 华为与贵州合作打造全国算力高地 加强华为云与政企全生态链合作 构建开放协同的数字产业生态环境 [2] - 华为云升级大模型服务平台 支持中国最全最新大模型及多个主流Agent平台 提供基于CloudMatrix384超节点的Tokens服务 [2] 技术突破与性能 - 华为云Tokens服务全面接入CloudMatrix384超节点 通过xDeepServe架构实现单芯片最高2400TPS和50msTPOT的超高吞吐低时延性能 超过业界水平 [3] - 性能突破依托华为综合优势：全新计算架构突破性能瓶颈 CANN昇腾硬件优化算子与通信策略 EMS弹性内存存储打破AI内存墙 xDeepServe分布式推理框架实现高效算力释放 [3] 行业应用与合作 - 华为云Tokens服务已成为各领域企业加速AI应用落地的共同选择 多家企业代表分享基于华为云的AI创新实践 [4] - 开幕式签署2025全国智能企业算力合作意向 发布华为云GoCloud与GrowCloud结对子榜单 828精选AI企业应用方案 贵州特色行业大模型成果 [4] 活动规模与资源 - 本届企业节提供超过12000款新产品 推出近600款精选智能化产品与解决方案 覆盖企业数智化转型全阶段全场景 [5] - 未来一个月启动828全国行动月 包括企业AI应用加速 中企出海 企业快成长等专项行动 覆盖120余座城市 数亿补贴惠及超10万企业 [5]

AI算力需求增长 - 中国AI算力需求呈现指数级增长 日均Token消耗量从2024年初的1000亿增至2024年6月底的30万亿 18个月内增长300倍[2] - 算力基础设施面临更大挑战 反映人工智能应用规模快速扩张[2] 华为云Tokens服务性能突破 - Tokens服务接入CloudMatrix384超节点 通过xDeepServe架构实现单芯片最高2400TPS和50msTPOT 吞吐量较年初1920TPS提升25%[1][2] - 提供在线版 进线版 离线版和尊享版等多种服务规格 满足不同应用场景性能和时延要求[2] 全栈算力架构创新 - CloudMatrix384超节点采用全新计算架构 突破性能瓶颈[4] - CANN昇腾硬件使能优化算子与通信策略 实现高效算力调用组合[4] - EMS弹性内存存储打破AI内存墙 以存强算彻底释放芯片算力[4] - xDeepServe分布式推理框架采用极致分离架构Transfomerless 提升算力效率[4] xDeepServe技术实现 - 采用Transformerless架构将MoE大模型拆分为Attention FFN Expert三个可独立伸缩微模块[5] - 通过XCCL微秒级通信库与FlowServe推理引擎重组 形成超高速LLM服务平台[6] - 实现单卡吞吐从600tokens/s提升至2400tokens/s 达4倍性能提升[6] - FlowServe引擎将超节点切分为自治DP小组 支持千卡并发无拥堵[6] 未来技术规划 - 计划实现Attention MoE Decode全数据流自由流动[7] - 将拼图方法复制到多台超节点 目标实现推理吞吐线性延伸和更大突破[7] 模型生态与性能优化 - MaaS服务支持DeepSeek Kimi Qwen Pangu等主流大模型及Dify 扣子等Agent平台[8] - 文生图模型通过Int8量化和算子融合实现2倍于业界出图速度 支持2K×2K尺寸[8] - 文生视频模型通过量化和通算并行实现3.5倍性能提升 降低延迟与显存占用[8] 行业应用落地 - 与超过100家伙伴合作开发行业Agent 覆盖调研分析 内容创作 智慧办公 智能运维等领域[8][9] - 今日人才数智员工解决方案集成NLP和机器学习技术 提升服务效率与客户满意度[9] - 无忧智慧公文解决方案提升政企公文处理效能 推动办公智能化转型[9]