Flex:ai XPU池化与调度软件
搜索文档
华为联合高校发布并开源AI容器技术 助力算力利用效率提升
证券时报网· 2025-11-21 11:17
技术发布与开源 - 华为公司于2025AI容器应用落地与发展论坛上正式发布AI容器技术Flex:ai [1] - 该技术由华为联合上海交通大学、西安交通大学与厦门大学共同研发,并宣布将此项产学合作成果向外界开源 [1] 技术核心突破 - 实现算力资源切分,可将单张GPU或NPU算力卡切分为多份虚拟算力单元,切分粒度精准至10%,使此类场景下的整体算力平均利用率提升30% [2] - 实现跨节点算力资源聚合,将集群内各节点的空闲XPU算力聚合形成共享算力池,促进通用算力与智能算力资源融合 [2] - 实现多级智能调度,通过Hi Scheduler智能调度器对本地及远端的虚拟化GPU、NPU资源进行全局最优调度,实现AI工作负载分时复用资源 [3] 行业背景与痛点 - AI产业高速发展催生海量算力需求,但全球算力资源利用率偏低的问题日益凸显 [1] - 行业面临小模型任务独占整卡导致资源闲置,大模型任务单机算力不足难以支撑,大量缺乏GPU/NPU的通用服务器处于算力休眠状态等供需错配问题 [1] 技术方案与效益 - Flex:ai XPU池化与调度软件基于Kubernetes容器编排平台构建,通过对GPU、NPU等智能算力资源的精细化管理与智能调度,实现AI工作负载与算力资源的精准匹配 [1] - 技术旨在助力破解算力资源利用难题,大幅提升算力利用率 [1] - 全面开源开放将向产学研各界开发者开放所有核心技术能力,共同推动异构算力虚拟化与AI应用平台对接的标准构建 [3]