华为云Tokens服务

搜索文档
慧科讯业出席华为全联接大会,共探企业AI降本增效新路径
搜狐财经· 2025-09-24 10:32
9月18-20日,华为全联接大会(HUAWEI CONNECT 2025,以下简称"华为HC大会")在上海世博展览馆成功举 办。慧科讯业受邀出席华为HC大会,与中国信息通信研究院在内的行业机构及专家代表,共同分享企业AI降本增 效新路径。 当前,各地争相布局大模型服务,支撑"人工智能+"行动落地,而MaaS作为大模型规模化落地的关键途径,正重 塑人工智能技术应用格局,且随着大模型服务需求加速释放,MaaS产业规模也呈现出爆发式增长趋势。 慧科讯业Wisers作为华为的重要合作伙伴,受邀出席华为HC大会并参与圆桌分享。"昇腾AI云服务圆桌会议"聚焦 大模型即服务平台(MaaS)演进趋势,通过深度洞察、案例分析与前瞻探讨等环节,为企业在AI时代提供清晰、 高效、可落地的解决方案,助力企业全面释放生产力。 会议现场,慧科讯业中台技术负责人王泽东分享了慧科讯业如何基于华为云Tokens服务实现可规模应用、可控制 及持续创造业务价值的企业级AI生产力引擎。 慧科讯业中台技术负责人王泽东现场分享企业级AI生产力引擎实践 慧科讯业作为全球多模态营销大数据智能应用领航者,已基于华为云上的DeepSeek,使用双活LLM及自由 ...
华为携手伙伴共同发起第四届828 B2B企业节,Tokens服务助十万企业AI落
扬子晚报网· 2025-08-28 08:42
活动概况 - 第四届828 B2B企业节于8月27日在贵阳开幕 由华为联合中软国际 软通动力等17家头部企业共同发起 旨在通过技术普惠和生态协作加速千行百业企业AI应用落地 [1] - 贵州作为全国国产智算资源最多 能力最强的地区之一 已三次吸引该活动落地 [1] - 活动聚焦智算 大模型 人工智能 数据等前沿技术 并展示最新数字产品与解决方案 [1] 政策与生态支持 - 国家数据局将健全政策体系 推动企业数据开发利用 深化政企协同 培育数据产业 建设数据基础设施 引导数据企业出海 [1] - 华为与贵州合作打造全国算力高地 加强华为云与政企全生态链合作 构建开放协同的数字产业生态环境 [2] - 华为云升级大模型服务平台 支持中国最全最新大模型及多个主流Agent平台 提供基于CloudMatrix384超节点的Tokens服务 [2] 技术突破与性能 - 华为云Tokens服务全面接入CloudMatrix384超节点 通过xDeepServe架构实现单芯片最高2400TPS和50msTPOT的超高吞吐低时延性能 超过业界水平 [3] - 性能突破依托华为综合优势:全新计算架构突破性能瓶颈 CANN昇腾硬件优化算子与通信策略 EMS弹性内存存储打破AI内存墙 xDeepServe分布式推理框架实现高效算力释放 [3] 行业应用与合作 - 华为云Tokens服务已成为各领域企业加速AI应用落地的共同选择 多家企业代表分享基于华为云的AI创新实践 [4] - 开幕式签署2025全国智能企业算力合作意向 发布华为云GoCloud与GrowCloud结对子榜单 828精选AI企业应用方案 贵州特色行业大模型成果 [4] 活动规模与资源 - 本届企业节提供超过12000款新产品 推出近600款精选智能化产品与解决方案 覆盖企业数智化转型全阶段全场景 [5] - 未来一个月启动828全国行动月 包括企业AI应用加速 中企出海 企业快成长等专项行动 覆盖120余座城市 数亿补贴惠及超10万企业 [5]
华为云宣布Tokens服务全面接入384超节点,国产算力产业链有望加速渗透
选股宝· 2025-08-27 14:52
华为云Tokens服务与AI算力发展 - 华为云Tokens服务全面接入CloudMatrix384超节点 通过系统创新提升性能 单芯片最高实现2400TPS和50msTPOT的超高吞吐低时延表现 超过业界水平 [1] - 中国AI算力需求呈现指数级增长 日均Token消耗量从2024年初1000亿增至2024年6月底30万亿 18个月增长300多倍 反映人工智能应用规模快速扩张 [1] - CloudMatrix384超节点是革命性AI架构 具备高吞吐 低时延 高弹性特点 通过系统级创新解决传统算力瓶颈 加速AI商业化落地 [1] 相关产业链公司动态 - 盛科通信作为国内稀缺以太网交换芯片设计企业 面向大规模数据中心和云服务需求 其12.8Tbps及25.6Tbps高端旗舰芯片已进入客户市场推广和应用阶段 [1] - 欧陆通作为高功率服务器电源供应商 直接受益于AI产业增长和国产替代机遇 [2]
单芯片最高2400TPS,华为云Tokens服务全面接入384超节点
观察者网· 2025-08-27 13:10
AI算力需求增长 - 中国AI算力需求呈现指数级增长 日均Token消耗量从2024年初的1000亿增至2024年6月底的30万亿 18个月内增长300倍[2] - 算力基础设施面临更大挑战 反映人工智能应用规模快速扩张[2] 华为云Tokens服务性能突破 - Tokens服务接入CloudMatrix384超节点 通过xDeepServe架构实现单芯片最高2400TPS和50msTPOT 吞吐量较年初1920TPS提升25%[1][2] - 提供在线版 进线版 离线版和尊享版等多种服务规格 满足不同应用场景性能和时延要求[2] 全栈算力架构创新 - CloudMatrix384超节点采用全新计算架构 突破性能瓶颈[4] - CANN昇腾硬件使能优化算子与通信策略 实现高效算力调用组合[4] - EMS弹性内存存储打破AI内存墙 以存强算彻底释放芯片算力[4] - xDeepServe分布式推理框架采用极致分离架构Transfomerless 提升算力效率[4] xDeepServe技术实现 - 采用Transformerless架构将MoE大模型拆分为Attention FFN Expert三个可独立伸缩微模块[5] - 通过XCCL微秒级通信库与FlowServe推理引擎重组 形成超高速LLM服务平台[6] - 实现单卡吞吐从600tokens/s提升至2400tokens/s 达4倍性能提升[6] - FlowServe引擎将超节点切分为自治DP小组 支持千卡并发无拥堵[6] 未来技术规划 - 计划实现Attention MoE Decode全数据流自由流动[7] - 将拼图方法复制到多台超节点 目标实现推理吞吐线性延伸和更大突破[7] 模型生态与性能优化 - MaaS服务支持DeepSeek Kimi Qwen Pangu等主流大模型及Dify 扣子等Agent平台[8] - 文生图模型通过Int8量化和算子融合实现2倍于业界出图速度 支持2K×2K尺寸[8] - 文生视频模型通过量化和通算并行实现3.5倍性能提升 降低延迟与显存占用[8] 行业应用落地 - 与超过100家伙伴合作开发行业Agent 覆盖调研分析 内容创作 智慧办公 智能运维等领域[8][9] - 今日人才数智员工解决方案集成NLP和机器学习技术 提升服务效率与客户满意度[9] - 无忧智慧公文解决方案提升政企公文处理效能 推动办公智能化转型[9]