Workflow
高带宽闪存(HBF)
icon
搜索文档
再造一个HBM!
半导体芯闻· 2025-11-07 10:24
文章核心观点 - 存储市场正经历由AI需求驱动的罕见供需失衡,导致内存和NAND闪存价格飙升 [2] - 高带宽闪存(HBF)作为一种新兴技术,正推动NAND闪存从廉价存储向AI时代高价值核心组件转型,其发展路径与高带宽内存(HBM)相似 [2][19] - HBF技术旨在解决AI多模态、长上下文模型对庞大中间状态数据的存储需求,在DRAM的速度和NAND的容量之间找到平衡 [3] - 2026-2027年是HBF技术发展和市场格局形成的关键窗口期,各大内存厂商正采取不同策略进行布局 [19] HBF技术概述 - HBF是NAND版本的高带宽内存技术,通过将16层NAND堆栈通过逻辑芯片连接到中介层,再以多通道高带宽方式连接到GPU或其他处理器 [3] - 该技术依托闪迪的CBA技术构建,使用硅通孔实现层间互联,能匹配HBM的带宽,同时在相近成本下提供8至16倍的存储容量 [4] - HBF单芯片可达到4TB容量(由8颗512GB HBF芯片组成),足以容纳16位权重的GPT-4模型(1.8万亿参数,需3.6TB存储) [10] - 该技术为混合专家模型及多模态大模型的端侧部署提供了可能,一颗512GB HBF芯片即可承载640亿参数的MOE模型 [11] 主要厂商动态 SK海力士 - 公司在2025年OCP全球峰会上发布了包含HBF在内的"AIN Family"产品阵容,其中AIN B是采用HBF技术的产品 [5] - AIN系列从性能、带宽、容量三个维度进行优化,旨在同时提升数据处理速度和存储容量 [5] - AIN B通过垂直堆叠NAND来扩大带宽,核心是将高容量、低成本的NAND与HBM堆叠结构相结合 [6] - 公司已向清州M15X工厂运入首批设备,该工厂将重点量产下一代HBM产品,为HBF的未来部署奠定基础 [7] - 2025年8月,公司与闪迪签署了HBF标准化谅解备忘录,推动开放式生态策略 [12] 闪迪 - 公司计划于2026年下半年向客户提供HBF样本,并于2027年初为推理AI提供正式产品 [10] - 技术突破使得HBF无需依赖DRAM即可承载超大模型,得益于DeepSeek AI研究人员提出的"多头潜在注意力"技术,可将键值缓存压缩93% [10] - HBF可将芯片拆分为8个64GB迷你阵列,为MOE的8个专家子模型分别提供专属存储与数据通道 [11] - HBF负责人Ilkbahar曾担任英特尔Optane部门副总裁,此次选择与SK海力士合作推动标准化,避免重蹈Optane过于专有化的覆辙 [12] 铠侠 - 公司展现出务实和多元化的技术探索路径,既独立开发差异化方案,又能共享合作伙伴的技术积累 [13] - 2025年8月发布面向边缘服务器的高速闪存驱动器原型,采用串联连接的闪存"珠子",使用PCIe 6总线,实现5TB容量和64 GBps数据速率 [13] - 该原型通过相同的PCIe Gen 6总线从5TB容量提供高达64 GBps速度,总吞吐量约为美光9650 Pro的2.3倍 [14] - 应英伟达要求,公司正在开发一款1亿IOPS的SSD,预计2027年推出,将支持PCIe 7.0标准 [14] 三星 - 公司已启动自有HBF产品的早期概念设计工作,但产品规格和量产时间表仍未知,态度较为谨慎 [16] - 作为DRAM和NAND的双料冠军,公司在开发HBF产品时具备天然的协同优势 [16] - 公司在HBM市场的经验教训可能影响了其在HBF上的策略,倾向于采取"后发制人"的策略 [17][18] 市场背景与价格动态 - 存储市场供需失衡,内存短缺问题加剧,三星于10月暂停DDR5 DRAM合约定价,引发内存价格暴涨 [2] - 9月以来,512Gb TLC晶圆价格稳步攀升,10月下旬已达5美元,1Tb TLC/QLC晶圆价格触及6.5至7.2美元区间 [2] - NAND涨价的核心原因包括库存见底和HBF新技术的推动 [2]
再造一个HBM
36氪· 2025-11-06 03:18
存储市场供需状况 - 存储市场正经历罕见的供需失衡,内存短缺问题因云巨头资本支出扩大和AI需求挤压供应而加剧 [1] - 三星于10月暂停DDR5 DRAM合约定价,引发内存价格暴涨 [1] - 512Gb TLC晶圆价格在10月下旬达到5美元,1Tb TLC/QLC晶圆价格触及6.5至7.2美元区间 [1] HBF技术概述 - 高带宽闪存是一种NAND版本的高带宽内存技术,通过将16层NAND堆栈通过逻辑芯片连接到中介层,再以多通道高带宽方式连接到处理器 [2] - HBF能匹配HBM内存的带宽表现,同时在相近成本下提供8至16倍的存储容量 [3] - 该技术旨在解决AI多模态、长上下文模型需要维护庞大中间状态数据的问题,在DRAM的高速度和NAND的大容量间找到最优解 [2] 主要厂商HBF布局 SK海力士 - 公司发布"AIN Family"产品阵容,其中AIN B是采用HBF技术的产品,核心是将高容量、低成本的NAND与HBM堆叠结构相结合 [4][5] - AIN系列从性能、带宽、容量三个维度优化,计划于2026年底推出AIN P样品 [5] - 公司已向清州M15X工厂运入首批设备,将重点量产下一代HBM产品,并为HBF未来部署奠定基础 [6] - 2025年8月与闪迪签署HBF标准化谅解备忘录,推动生态系统发展 [11] 闪迪 - 计划于2026年下半年向客户提供HBF样本,2027年初为推理AI提供正式产品 [9] - 单块GPU搭载的HBF内存可达到4TB容量,由8颗512GB HBF芯片组成,足以容纳16位权重的GPT-4模型 [9] - 一颗512GB HBF芯片即可承载640亿参数的MOE模型,且可拆分为8个64GB迷你阵列,为专家子模型提供专属存储 [10] 铠侠 - 采用多路径探索策略,开发了采用菊花链连接方式的闪存驱动器原型,使用PCIe 6总线实现5TB容量和64 GBps数据速率 [12] - 正在开发一款1亿IOPS的SSD,预计2027年推出,将支持PCIe 7.0标准,两个SSD直接连接到英伟达GPU可提供总计2亿IOPS性能 [13] - 技术路径包括CXL连接的XL-Flash驱动器、菊花链连接的XL-Flash珠子,以及XL-Flash HBF实现方案 [13] 三星 - 已启动自有HBF产品的早期概念设计工作,但产品规格和量产时间表仍未知 [16] - 作为DRAM和NAND双料冠军,在3D NAND堆叠技术、TSV工艺、先进封装等领域有深厚积累,具备天然协同优势 [16][17] - 采取谨慎的后发策略,先观察竞争对手技术路线和客户反馈,再以更成熟方案进入市场 [18] HBF市场前景 - HBF为混合专家模型及多模态大模型的端侧部署提供可能,是典型的"内存受限型应用"核心适配场景 [10] - 2026-2027年被视为关键窗口期,四大厂商的博弈将决定新兴市场格局 [19] - HBF技术可能使NAND从廉价存储转型为高价值核心组件,复制HBM从配角到主角的发展路径 [19]
再造一个HBM!
半导体行业观察· 2025-11-06 01:17
存储市场供需状况 - 存储市场正经历罕见的供需失衡,AI需求挤压供应导致内存短缺加剧,三星于10月暂停DDR5 DRAM合约定价引发内存暴涨 [1] - NAND闪存价格显著上涨,9月以来512Gb TLC晶圆价格稳步攀升,10月下旬达5美元,1Tb TLC/QLC晶圆价格触及6.5至7.2美元区间 [1] - NAND涨价核心原因包括库存见底及新兴技术高带宽闪存(HBF)的推动,HBF可能为NAND开启类似HBM的“封神之路” [1] 高带宽闪存(HBF)技术概览 - HBF是NAND版本的高带宽内存技术,通过将16层NAND堆栈通过逻辑芯片连接到中介层,再以多通道高带宽方式连接到GPU或其他处理器 [3] - 该技术旨在解决AI多模态、长上下文应用需在内存中维护庞大中间状态数据的问题,在DRAM高速但高成本与NAND大容量但慢速间找到最优解 [3] - HBF依托闪迪CBA技术构建,逻辑芯片与3D NAND堆叠层键合,通过类HBM的硅通孔实现层间互联,能匹配HBM带宽并在相近成本下提供8至16倍存储容量 [3] 主要厂商HBF技术布局 SK海力士 - 在2025年OCP全球峰会发布包含HBF的“AIN Family”产品阵容,其中AIN B是采用HBF技术的产品,核心是将高容量、低成本NAND与HBM堆叠结构结合 [6][7] - AIN系列从性能、带宽、容量三个维度优化,AIN P专注于AI推理环境高效处理海量数据读写,计划2026年底推出样品;AIN D目标是以低功耗、低成本存储大容量数据 [6][7] - 公司已向清州M15X工厂运入首批设备,该工厂将重点量产下一代HBM产品,HBM产能扩张为HBF未来部署奠定基础 [8] - 2025年8月与闪迪签署HBF标准化谅解备忘录,推动开放式生态策略 [12] 闪迪 - 宣布激进HBF推进计划,将于2026年下半年提供样本,2027年初为推理AI提供正式产品 [9] - 技术突破在于无需依赖DRAM即可承载超大模型,单块GPU搭载的HBF内存可达4TB容量,足以容纳16位权重的GPT-4模型 [10] - HBF为混合专家模型及多模态大模型端侧部署提供可能,一颗512GB HBF芯片可承载640亿参数的MOE模型,并拆分为8个64GB迷你阵列为专家子模型提供专属存储 [11] 铠侠 - 采取多路径探索策略,既独立开发差异化方案又能共享合作伙伴技术积累 [13] - 2025年8月发布面向边缘服务器的高速闪存驱动器原型,采用串联连接闪存“珠子”及菊花链连接方式,使用PCIe 6总线实现5TB容量和64 GBps数据速率 [13] - 原型总吞吐量约为美光9650 Pro的2.3倍,按每通道计算高出约14%,公司正应英伟达要求开发1亿IOPS的SSD,预计2027年推出 [14][15] 三星 - 已启动自有HBF产品早期概念设计工作,但产品规格和量产时间表仍未知,开发处于早期阶段,态度谨慎 [17] - 作为DRAM和NAND双料冠军,在3D NAND堆叠、TSV工艺、先进封装等领域有深厚积累,具备开发HBF的天然协同优势 [17][18] - 在HBM市场的教训可能影响其HBF策略,倾向于采取“后发制人”策略,先观察竞争对手技术路线和客户反馈再以成熟方案进入市场 [18][19] 行业趋势与展望 - NAND正经历从廉价存储到高价值核心组件的转型,与HBM崛起路径相似,均源于AI需求爆发及传统架构突破 [20][21] - 2026-2027年为关键窗口期,四大阵营的博弈将决定HBF新兴市场格局,这是关于未来AI基础设施话语权的争夺战 [21]