行业市场格局与结构 - 当前AI Infra平台已形成“算力管理层—模型管理层—应用管理层”三层能力体系 [3] - 其中算力管理层占主导地位，2024年市场份额达64.6% [3] - 异构算力精细化纳管正成为AI Infra平台标配 [3] 公司市场地位与产品定位 - 京东云在“2024年中国AI Infra平台算力管理层市场厂商竞争力象限分析图”中稳居产品能力前三 [1] - 公司聚焦“异构算力+极致推理”，致力于构建新一代人工智能基础设施（AI Infra） [3] - 公司已构建一站式大模型产品矩阵，从智算基础设施到模型服务工具，再到上层Agent应用开发 [6] 核心平台技术能力 - 核心平台JoyScale通过软硬件协同优化，实现对华为昇腾、寒武纪、海光等国产芯片的高性能异构计算支持 [3] - 平台借助算力池化与智能调度，提升集群利用效率，实现国产算力的统一纳管与高效运维 [3] - JoyScale AI算力平台是业界唯一同时支持英伟达显卡和昇腾NPU远程调用的算力平台 [3] - 平台支持10+国产AI算力卡，20+训练推理框架 [3] - 平台支持训练任务和推理服务统一调度和资源共享 [3] 平台核心优势与性能 - 极致算力性能：行业领先的内核态池化引擎，提供多卡聚合、单卡切分、多机多卡集群化调度、推理加速等能力 [5] - 平台通过信通院最高等级双认证，可满足金融级数据安全、性能和稳定性要求 [5] - 整体推理性能提升50% [5] - 高效异构算力调度：全面适配十余家国产算力，支持异构算力统一纳管、精细化运维 [5] - 云原生AI调度能力极致提升AI任务部署密度，整体资源利用率提升70% [5] - 深度国产AI生态合作：与众多国产芯片厂商深度合作，互相开放运行Runtime层代码 [5] - 通过GPU/NPU切分池化技术，从内核层屏蔽异构厂商硬件的复杂性 [5] - 支持超20种AI训推框架，包括PyTorch、TensorFlow、DeepSpeed、MindSpore等训练框架，以及vllm、sglang、MindIE、triton、TensorRT-LLM等推理框架 [5] 公司实践与应用场景 - 京东云依托京东集团丰富的业务场景 [3] - JoyScale AI算力平台是基于京东内部统一GPU池化实践打磨的同源同栈AI基础设施算力平台 [3] - 基于京东集团复杂场景实践构建产品矩阵，支持国央企快速部署大模型及AI应用 [6]