智谱正式发布并开源新一代大模型GLM-4.6 寒武纪、摩尔线程完成对智谱GLM-4.6的适配
寒武纪与摩尔线程完成对GLM-4.6的适配,标志着国产GPU已具备与前沿大模型协同迭代的能力,加速 构建自主可控的AI技术生态。GLM-4.6搭配国产芯片的组合将率先通过智谱MaaS平台面向企业与公众 提供服务,释放更广泛的社会与产业价值。 未来,国产原创的GLM系列大模型与国产芯片的深度协同,将在模型训练和推理环节持续推动性能与 效率的双重优化,构建更加开放、可控、高效的人工智能基础设施。 智谱官方宣布,GLM-4.6已在寒武纪领先的国产AI芯片上实现FP8+Int4混合量化推理部署,这也是首次 在国产芯片上投产的FP8+Int4模型-芯片一体化解决方案。在保持模型精度不变的前提下,该方案大幅 降低了推理成本,为国产芯片本地化运行大模型提供了可行路径和示范意义。 与此同时,摩尔线程基于vLLM推理框架完成了对GLM-4.6的适配,新一代GPU可在原生FP8精度下稳 定运行模型,充分验证了MUSA架构及全功能GPU在生态兼容性和快速适配能力方面的优势。 9月30日,国内大模型领军企业智谱正式发布并开源新一代大模型GLM-4.6,在Agentic Coding等核心能 力上实现大幅跃升。这是继DeepSeek- ...