GenAI内存解决方案的核心需求 - GenAI应用需要高速、高带宽且低延迟的内存以实时处理海量数据 特别在推理环节需快速访问数据以实现实时决策和预测 [2] - 传统DRAM因带宽和延迟局限 需依赖HBM等硅通孔(TSV)堆叠技术满足性能需求 [6] HBM竞争格局与技术趋势 - 三星落后:因测试/封装环节保守、过度关注成本 未能有效解决客户散热与功耗需求 HBM3e改进计划或使2025年出货量从80-90亿吉比特增至110-120亿吉比特 [7][11] - SK海力士领先:通过内存单元设计、逻辑电路(IVC)添加等措施满足NVIDIA功率限制 灵活企业文化推动技术突破 [7] - 美光追赶:2025年直接进军HBM3e 采用1b DRAM单元及SK验证的键合设备 逻辑电路优化降低电压 [7][8] - 中国布局:计划2025年实现HBM3国产化 覆盖GPU至OSAT全供应链 但2026年后受美国设备管制或面临制程挑战 [11] 中国存储市场动态 - DRAM产能:CXMT 2024年占全球产能13%/出货量6%/收入3.7% 2025年产能或媲美满载 但良率差距显著(DDR5良率<50%) [12] - 成本竞争力:中国DRAM成本可低至$0.20/Gb(韩国$0.23) 政府支持固定成本 但技术滞后致每晶圆比特产量少42%(2024年) [12][17] - 新兴机遇:AI+电动汽车推动需求 3D技术及国产设备替代成关键 但设备国产化需1-2年 [12] 智能手机与GenAI融合 - 内存革新:PIM技术或应用于高端手机 通过协议匹配提升带宽 折叠屏手机缓解空间限制 [15] - 三星策略:2025年HBM3e改进逻辑电路 出货量或增长37.5% 但面临中国HBM国产化竞争 [11] - 云端分流:短期内手机带宽需求有限 因计算任务多由云端执行 [15] 定制HBM与未来趋势 - 市场增长:定制HBM预计占2030年HBM市场30-40% 数据中心定制计算市场规模2028年或达25%(2023年为16%) [28][29] - 技术路径:直接集成HBM至SoC或基底芯片增加逻辑功能成主流方案 NVIDIA等7-8家IT巨头推动发展 [26][28] - 创新焦点:需兼顾GPU通信IP、光子技术及SoC兼容性 平衡性能与成本 [28] 边缘计算与行业应用 - 汽车领域:自动驾驶推动LPDDR使用 HBM4或2027年后应用于汽车 Tesla等厂商需求增长 [22] - NVIDIA技术:DIGITS技术结合GPU与HBM 2025年中期提升带宽与信号完整性 但暂不扩展至通用PC [22] DeepSeek的芯片潜力 - 低成本优势:大语言模型性能接近ChatGPT但成本显著降低 训练效率受政府支持 [13][17] - 硬件适配:华为Ascend 920支持HBM2/2e 虽落后行业标准 但通过软件优化在推理领域保持竞争力 [18]
《GenAI的内存解决方案》系列综合报告