英伟达H800芯片

搜索文档
阿里自研AI芯片现身,部分性能参数比肩英伟达H20
南方都市报· 2025-09-17 03:48
平头哥PPU芯片性能参数 - 集成HBM2e高性能内存 与英伟达H800相同但落后于H20的HBM3 [1] - 显存容量96G 与英伟达H20芯片持平 [1] - 卡间互联带宽700GB/s 介于英伟达A800与H20之间 [1] - PCIe接口性能优于A800 与H20等同 [1] - 功耗400W 与A800一致但低于H20的550W [1] 国产AI芯片对比 - 平头哥PPU在所有性能参数上领先华为昇腾910B芯片 [3] - 华为昇腾系列最新款为910C芯片 [3] 自研芯片应用进展 - 阿里开发新型通用AI推理芯片以填补英伟达市场空白 [3] - 阿里将自研芯片用于训练较小AI模型 百度使用昆仑芯P800训练文心大模型 [3] - 两家公司未完全放弃使用英伟达芯片 [3] 战略投入规划 - 阿里将"AI+云"列为与电商并列的核心增长引擎 [3] - 未来三年计划投入至少530亿美元建设云和AI硬件基础设施 [3] - 未来十年以AI为核心驱动力 重点投入三大领域:AI云计算基础设施、AI基础模型与应用、现有业务AI转型 [3]
【WAIC2025】阶跃星辰发布基座大模型Step 3 与多家国产芯片厂商实现联合开发
经济观察网· 2025-07-26 05:14
公司动态 - 上海阶跃星辰智能科技有限公司发布首个全尺寸、原生多模态推理模型Step3,将于7月31日面向全球企业和开发者开源 [1] - Step3采用MoE架构,总参数量321B(3210亿),激活参数量38B(380亿),在推理解码效率下实现成本优化 [2] - Step3拥有视觉感知和复杂推理能力,能完成跨领域复杂知识理解、数学与视觉信息交叉分析,解决日常视觉分析问题 [2] - 公司联合近10家芯片及基础设施厂商组建模芯生态创新联盟,提升大模型适配性和算力效率 [2] - 公司宣布与上海国有资本投资有限公司战略合作,获得新融资后计划向全年10亿元人民币收入目标冲刺 [3] 技术表现 - Step3在英伟达H800芯片上分布式推理时,吞吐量较DeepSeek-R1提升超70% [2] - Step3在国产芯片上推理效率最高达DeepSeek-R1的300% [2] - 华为昇腾芯片首先实现Step3搭载和运行,沐曦、天数智芯和燧原科技等也初步实现运行 [3] 商业化进展 - 公司2025年上半年已实现数亿元合同收入且毛利水平较高 [3] - 公司与国内超一半手机厂商合作打造Agent,与吉利共建智能座舱,在金融、零售等领域探索C端场景化应用 [4] 行业观点 - 大模型产业过渡至2.0时代后,不少公司放弃模型训练转向商业化,但公司坚持超级模型加超级应用的路径 [1] - 最适合实际应用的大模型需满足强智能、低成本、可开源和多模态四个特征 [1] - 国产AI芯片厂商面临高端芯片制造和生态两座大山,模型和芯片合作可解决生态问题 [3]
成本降低20%!蚂蚁集团用国产芯片训练AI
国芯网· 2025-03-25 04:46
蚂蚁集团AI技术突破 - 蚂蚁集团成功使用国产芯片(包括阿里巴巴和华为)结合混合专家(MoE)机器学习方法训练AI模型,成本降低约20% [1] - 测试结果显示该技术性能可媲美英伟达H800芯片 [1] - 虽然仍在使用英伟达芯片,但最新模型主要依赖AMD及中国国产芯片替代方案 [1] 技术开源与行业影响 - 蚂蚁集团开源Ling系列模型框架及训练策略,推动国产AI技术普惠化 [1] - 此举可降低中小企业和研究机构入局门槛 [1] - 在美国对华高端芯片出口限制背景下,该突破说明中国基本已突破美国半导体制裁 [1] 公司回应 - 蚂蚁集团回应称针对不同芯片持续调优以降低AI应用成本 [1] - 表示已取得一定进展并将逐步通过开源分享成果 [1]