最近看了很多国内券商的研报，不得不说，有些质量还是非常高的，之前大家可能对国内券商的研 报有些误解。这篇文章参考自申万宏源的一个分析，来看下AI ASIC。 商业上，ASIC 是专用芯片，为下游特定场景（如训练、文本推理、视频/音频推理）定制，与客户 应用高度绑定。GPU 则是通用芯片，需兼容多场景，包括图像渲染，因此华为昇腾 NPU 或寒武纪 AI 芯片也可视为通用型。 ASIC 优势在于特定场景的高效与低功耗。GPU 基于冯诺依曼架构，运算需频繁寄存器交换，对存 储需求高，且保留图形渲染等闲置模块；ASIC 如谷歌 TPU、AWS Trainium2 采用脉动阵列架构，专 为矩阵运算设计，结果直接传递，减少数据交互，提高效率。 谷歌 TPU v5 测试显示，能效比为英伟达 H200 的 1.46 倍；在 BERT 推理中，每瓦性能提升 3.2 倍。 优势源于三点：3D 堆叠优化算力密度、DVFS 降低闲置功耗、HBM3e 内存突破带宽瓶颈（达 1.2TB/s）。 ASIC 单位算力成本更低。亚马逊 Trainium2 训练成本降 40%，推理降 55%；10 万卡集群可节省 12 亿美元初始投资。 大厂自 ...

AI行业前景与市场规模 - AI将为全球GDP带来10万亿美元增值 背后AI工厂年资本支出需达5万亿美元级别 [2][3] - AI驱动收入在未来5年内从1000亿美元增至1万亿美元的概率几乎确定 目前已接近实现 [3][14] - 全球算力短缺主因是云服务提供商订单低估需求 导致长期处于紧急生产模式 [3][16] 英伟达与OpenAI合作 - OpenAI邀请英伟达早期投资 可能成为下一个万亿美元级超大规模公司 [2][6] - 合作涉及直接工作关系和直接采购关系 类似马斯克与X的合作模式 [2][7] - 合作涵盖Microsoft Azure建设(数千亿美元规模) OCI建设(5-7千兆瓦)和Core Weave项目 [6] 技术竞争格局 - 当前AI竞争比以往更激烈 市场从GPU演变为复杂AI工厂 需处理多样化工作负载 [2][26] - 英伟达芯片竞争优势在于总拥有成本(TCO) 性能或每瓦token数是其他芯片两倍 [4][33] - 谷歌TPU优势在于前瞻性 但客户自有工具将成为主流趋势 [3][27] 技术发展路径 - 推理能力将增长十亿倍 从一次性推理转变为思考型AI [6][18] - 出现三个缩放定律:预训练缩放 后训练缩放和推理缩放 替代单一缩放定律 [6] - 年度发布周期实现技术指数级提升 Hopper到Blackwell性能提升30倍 [22][23] 生态系统建设 - 每个国家都需要建设主权AI能力 如同需要能源和通信基础设施 [4][38] - 英伟达定位为AI基础设施公司 提供芯片 组件或完整系统解决方案 [36] - 与英特尔 ARM等公司合作实现生态系统融合 扩大市场机会 [32] 商业模式演进 - AI工厂需要处理持续变化的多样化工作负载 非单一芯片能解决 [28][29] - 超大规模厂商从CPU向加速计算和AI转型 代表数千亿美元市场 [9][10] - 即使竞争对手芯片免费 英伟达系统仍能提供更优每瓦性能收益 [33][34] 应用场景拓展 - AI与机器人技术融合将成为未来5年重点发展方向 [4][43] - 传统数据处理市场(主要使用CPU)将转向AI数据处理 [18] - 每个人可能拥有个性化AI模型 80亿人口对应80亿GPU成为可行方案 [43] 产业影响 - AI将增强全球50万亿美元人类智能产出 带来生产力革命 [11][12] - 能源产业迎来复兴 核能 燃气轮机等基础设施公司表现突出 [13] - 消除技术鸿沟 人类只需使用自然语言与AI交互而非编程语言 [40]

投资评级 - 报告对国产ASIC行业持积极看法，认为ASIC设计服务商迎来发展机遇，博通、Marvell、国内芯原股份、翱捷科技、灿芯股份有望受益 [2] 核心观点 - ASIC在能效与成本上优势突出，专用芯片特性使其在推理场景更具优势，AI渗透率提升带动推理需求激增，拓宽ASIC市场空间 [1][3] - ASIC设计复杂度高，专业分工下设计服务商价值凸显，博通等头部服务商凭借完整IP体系、封装技术和量产经验巩固行业地位 [1][3] - 国内云厂商自研ASIC已有独立成果，并非跟随海外路径，百度、阿里、字节等头部厂商推动国产ASIC放量，本土设计服务商迎来战略机遇 [1][3] - PD分离与超节点成为国产ASIC发展的两大核心趋势，华为、海光等厂商已形成自主技术体系，采用开源开放模式适配多元化需求 [1][4] 目录总结 大模型推理带动ASIC需求 - 2028-2030年全球AI芯片市场规模有望达5000亿美元，AI基础设施支出预计达3-4万亿美元 [8] - ASIC专用性强，谷歌TPU v5能效比为英伟达H200的1.46倍，亚马逊Trainium2训练成本较GPU降低40%，推理成本降55% [14][15] - 推理需求激增驱动ASIC需求，ChatGPT C端WAU达7亿，OpenRouter统计Token消耗量一年翻近10倍 [21][29] - 博通2024年AI ASIC收入122亿美元，2025年前三季度达137亿美元，AMD预计2028年全球AI ASIC市场规模达1250亿美元 [1][30] ASIC设计复杂度高，服务商价值凸显 - ASIC设计需前端需求定义与后端技术落地，云厂商多依赖服务商，博通、Marvell为全球主要服务商 [36][41] - 谷歌TPU成功离不开与博通合作，博通优势包括30亿美元投入积累的完整IP体系、TPU设计经验、3.5D XDSiP封装技术、高速互联与CPO技术 [1][55] - 博通2024年AI ASIC收入122亿美元，2025年前三季度达137亿美元，季度环比增速超越英伟达 [1][55] 国内ASIC发展并非跟随 - 2025H1中国AI云市场CR5超75%，头部云厂需求旺盛，百度昆仑芯迭代至第三代，实现万卡集群部署并中标10亿元中国移动订单 [1][74][75] - 阿里平头哥PPU显存容量96GB、带宽700GB/s超英伟达A800，签约中国联通16384张算力卡订单 [76][78] - 字节2020年启动芯片自研，计划2026年前量产，国产服务商芯原股份、翱捷科技、灿芯股份各具优势 [1][80][82] 国产ASIC技术趋势：PD分离与超节点 - PD分离指Prefill与Decode任务用不同芯片完成，华为昇腾950分PR和DT型号适配不同场景 [1][94][95] - 超节点通过高带宽互联形成统一计算体，海光开放HSL协议吸引寒武纪等参与，华为开放灵衢总线支持超8192卡扩展 [1][104][107] - 英伟达Rubin CPX为海外首个芯片级PD分离实践，采用GDDR7替代HBM降低成本，华为昇腾950PR/950DT分别针对Prefill和Decode优化 [90][92][95]

报告行业投资评级 - 看好 [2] 报告核心观点 - ASIC专用芯片在AI大模型推理阶段具备显著成本效益优势，能效比和单位算力成本表现突出，验证了其商业化拐点 [3] - AI渗透率提升推动推理需求激增，Token消耗量近一年翻近10倍，驱动ASIC市场空间扩大，预计2028年全球AI ASIC市场规模达1250亿美元 [3][31][32] - ASIC设计服务商在产业链中价值凸显，博通等头部服务商凭借完整IP体系、先进封装技术和量产经验获得持续订单，国内厂商如芯原股份、翱捷科技、灿芯股份迎来发展机遇 [3][60][89][90] - 国产ASIC发展呈现PD分离和超节点两大趋势，华为昇腾950分型号适配不同场景，海光、华为构建开放互联生态，区别于海外封闭路径 [3][99][107][115] 大模型推理带动ASIC需求 - ASIC与GPU技术边界趋同，但商业模式差异显著：ASIC为下游场景高度耦合的专用芯片，GPU需覆盖多场景属通用芯片 [3][14][15] - ASIC能效比优势突出，谷歌TPU v5能效比为英伟达H200的1.46倍，亚马逊Trainium2训练成本较GPU方案降低40%，推理成本降55% [3][18] - 自研ASIC可显著降低TCO，外采芯片需承担厂商利润，英伟达FY2025净利率达57%，其数据中心AI芯片收入1022亿美元 [3][21] - 推理需求激增驱动ASIC放量，ChatGPT C端WAU达7亿，OpenRouter统计Token消耗量从2024年9月不足0.5T提升至2025年8月接近5T [3][25][31] ASIC设计复杂度高，服务商价值凸显 - 谷歌TPU成功离不开与博通合作，博通核心优势包括30亿美元投入积累的完整IP体系、TPU设计经验、3.5D XDSiP封装技术及高速互联能力 [3][59][60][69] - 博通2024年AI ASIC收入122亿美元，2025年前三季度达137亿美元，季度环比增速超越英伟达 [3][60] - 芯片设计连贯性带来高客户转换成本，服务商壁垒稳固，头部云厂如谷歌、亚马逊、Meta、微软均依赖博通、Marvell等专业服务商 [3][44][60][75] - 国内设计服务商各具优势：芯原股份具备5nm工艺能力和丰富IP积累，翱捷科技在手订单充足，灿芯股份依托中芯国际布局成熟制程 [3][89][90][91] 国内ASIC发展机遇 - 2025H1中国AI云市场CR5超75%，头部云厂自研ASIC成果显著：百度昆仑芯实现万卡集群部署并中标10亿元中国移动订单，阿里平头哥PPU显存带宽超英伟达A800并签约16384张算力卡订单，字节计划2026年前量产自研芯片 [3][78][83][84][87] - 国产ASIC服务商覆盖不同技术需求，芯原股份2024年芯片量产收入8.6亿元、芯片设计7.2亿元、IP授权7.4亿元，灿芯股份芯片量产收入8.1亿元 [3][91] - SerDes等关键IP国产化加速，国内厂商如芯潮流、晟联科、集益威已布局56Gbps-112Gbps产品，但224Gbps仍依赖海外 [3][95] 国产ASIC技术趋势：PD分离与超节点 - PD分离成为推理场景主流趋势，Prefill任务计算密集型，Decode任务内存带宽受限，华为昇腾950分PR和DT型号适配不同场景 [3][97][99][107] - 英伟达Rubin CPX专为Prefill优化，采用GDDR7替代HBM降低成本，预计2026年底上市 [3][99][103] - 超节点通过高带宽互联整合多处理器，国内海光开放HSL协议吸引寒武纪等参与，华为开放灵衢总线支持超8192卡扩展，均采用开源开放模式 [3][109][115][117] - 华为昇腾950PR采用自研低成本HiBL 1.0 HBM，950DT采用HiZQ 2.0 HBM，内存带宽达4TB/s，互联带宽2TB/s [3][107]

Omdia高级计算首席分析师Alexander Harrowell表示："增长的关键驱动力在于AI应用的普及、AI微调技 术的日益民主化，以及推理模型的使用——这些模型会产生大量未用于最终输出的令牌。另一方面，向 小型化专业模型的转变正在降低对AI算力的需求，AI模型效率的代际提升也在产生同样效果，包括训 练数据集优化、基础模型设计进步以及推理环节的运营优化。" 智通财经APP获悉，Omdia最新发布的报告显示，AI数据中心芯片市场持续快速增长，但已有迹象表明 增速开始放缓。AI基础设施的蓬勃发展推动预测值大幅上调：2024年GPU和AI加速器出货金额达1230 亿美元，2025年预计增至2070亿美元，2030年将达2860亿美元。虽然2022至2024年间市场年增长率超过 250%，但2024至2025年的增速预计将回落至67%左右。AI基础设施支出占数据中心总支出的比例预计 在2026年达到峰值(届时几乎所有增量支出都将由AI驱动)，之后将逐步回落至2030年。 Omdia表示，尽管英伟达仍是主导供应商，但2025年GPU替代方案正获得市场关注，包括谷歌TPU等定 制ASIC芯片，以及华为昇腾系列、Gr ...

尽管英伟达仍是主导供应商，但Omdia观察到2025年GPU替代方案正获得市场关注，包括谷歌TPU等定 制ASIC芯片，以及华为昇腾系列、Groq和Cerebras等商用ASSP。AMD通过2024年对软件的重大投入， 其Instinct系列GPU也取得显著进展。 （文章来源：新华财经） 新华财经上海9月24日电全球领先的技术研究与咨询机构Omdia最新发布的《云与数据中心AI处理器预 测报告》显示，AI数据中心芯片市场持续快速增长，但已有迹象表明增速开始放缓。 上述报告称，2024年GPU和AI加速器出货金额达1230亿美元，2025年预计增至2070亿美元，2030年将 达2860亿美元。虽然2022至2024年间市场年增长率超过250%，但2024至2025年的增速预计将回落至 67%左右。AI基础设施支出占数据中心总支出的比例预计在2026年达到峰值（届时几乎所有增量支出都 将由AI驱动），之后将逐步回落至2030年。 ...

Groq是何方神圣? Groq之所以在全球资本市场炙手可热，主要因为其致力于打破份额高达90%的AI芯片超级霸主英伟达对 科技行业AI算力基础设施的强势控制。 Groq所开发的芯片并非通常为AI训练/推理系统提供动力的AI GPU。相反，Groq将其称为LPU(language processing units，语言处理单元)，并称其硬件为"推理引擎"——专为极速高效率运行AI大模型而优化的 专用高性能推理型计算机，从技术路线来看和博通AI ASIC以及谷歌TPU属于同类AI芯片技术路线。 聚焦于AI芯片的初创公司Groq在当地时间周三证实，该初创公司经历新融资后估值大约69亿美元，在 新一轮融资中筹集了7.5亿美元。该公司乃"AI芯片霸主"英伟达(NVDA.US)的最大竞争对手之一，论竞 争对手们AI芯片领域的市场规模，可能仅次于美国芯片巨头博通与AMD。 这一最新的融资数据可谓高于7月融资传闻流出时的数字。当时有不少媒体报道称，本轮融资约为6亿美 元，估值接近60亿美元。 与英伟达的最大营收与利润贡献业务部门——数据中心业务类似，Groq聚焦于向全球各大数据中心以 及企业平台销售最核心AI算力基础设施—— ...

生成式AI催化剂重塑互联网行业格局 - 四项关键生成式AI催化剂包括模型进步、代理式体验、资本支出和定制芯片 正在重塑互联网行业格局 [1][3] - 这些技术进展将推动谷歌 Meta和亚马逊在大型科技股中脱颖而出 [1][3][5] 四大宏观AI催化剂驱动因素 - 模型开发加速：顶尖AI模型将继续甚至加速改进 因充足资本 提升芯片算力和代理式能力开发空间推动 OpenAI 谷歌 Meta等公司将发布新一代更强大模型 [6] - 代理式体验普及：代理式AI产品提供更个性化互动和全面的消费体验 促进消费者钱包数字化 大规模应用需克服算力容量 推理能力和交易流程顺畅性等障碍 [7] - 资本支出激增：六大巨头（亚马逊 谷歌 Meta 微软 甲骨文 CoreWeave）数据中心资本支出总额2026年达5050亿美元 同比增长24% 每建设吉瓦级数据中心需400-500亿美元资本支出 [8] - 定制芯片重要性提升：第三方公司对谷歌TPU和亚马逊Trainium等定制ASIC芯片测试和采用可能性增加 成本效益和产能限制促使客户寻求ASIC解决方案 尤其在推理工作负载方面 [9] 资本支出对财务状况的影响 - 六大科技巨头资本支出2024年到2027年预计以34%复合年增长率增长 [10] - 2026年谷歌 Meta和亚马逊的基建资本支出预计分别占其税前自由现金流的约57% 73%和78% 表明公司愿意牺牲短期盈利能力换取长期技术优势 [12] 亚马逊投资价值分析 - 亚马逊是大型科技股首选 目标价300美元 评级增持 基于AWS业务再加速和北美零售业务利润率持续改善两大支柱 [14] - AWS数据中心建设步伐加快 2025年和2026年新增大量数据中心面积 为2026年实现20%以上收入增长提供物理基础 高于目前19%的基础预测 [14] - 北美零售业务利润率截至2025年第二季度为-1% 远低于2018年约1%水平 预计到2028年恢复至2018年水平 2026/2027年每股收益预测存在上调可能 [16] Meta投资价值分析 - 维持对Meta的增持评级 目标价850美元 关注核心平台改进 下一代Llama模型发布和多个未被充分定价的看涨期权 [18] - Meta利用GPU驱动核心广告业务改进 有巨大空间提升用户参与度和变现能力 预计2026年初发布经过充分测试和改进的下一代Llama模型 [18] - Meta AI搜索 商业消息等新业务是长期增长驱动力 Meta AI搜索到2028年可能创造约220亿美元年收入机会 用户采用率已迅速追平ChatGPT和谷歌Gemini [18] 谷歌投资价值分析 - 维持对谷歌的增持评级 目标价210美元 关注AI驱动的搜索增长 用户商业行为潜在转移和谷歌云增长 [20] - AI Overviews和AI Mode等创新有望推动搜索收入加速增长 预计2025年下半年和2026年搜索收入增速分别为12%和9% 谷歌仍是消费者商业行为首选平台 [20] - Gemini模型和TPU芯片是推动GCP增长的关键 Meta等公司与GCP合作有望为2026年云业务增长贡献约300个基点 定制芯片优势构成潜在上行催化剂 [20]

生成式AI催化剂重塑互联网行业 - 四项关键生成式AI催化剂包括模型进步、代理式体验、资本支出和定制芯片 正在重塑互联网行业格局 [1] - 领先AI模型的持续突破和代理式AI体验的普及 正推动行业进入新增长阶段 并进一步推动消费者支出数字化 [1] - 科技巨头正以前所未有规模进行投资 六大主要科技公司总资本支出将在2026年达到约5050亿美元 2027年增至5860亿美元 [1] 四大宏观AI驱动力量 - 资本支出激增：从2024年到2027年 六大科技巨头资本支出预计以34%复合年增长率增长 将显著影响公司自由现金流 [4][7] - 模型开发加速：顶尖AI模型将继续加速改进 充足资本、提升芯片算力和代理式能力开发空间将推动发布新一代更强大模型 [5] - 代理式体验普及：AI产品提供更个性化互动和全面消费体验 促进消费者钱包数字化 但仍需克服算力容量和推理能力等障碍 [5] - 定制芯片重要性提升：第三方公司对谷歌TPU和亚马逊Trainium等定制ASIC芯片测试采用可能性增加 成本效益和产能限制将促使客户寻求ASIC解决方案 [5] 资本支出对财务状况影响 - 到2026年 谷歌、Meta和亚马逊的基建资本支出预计将分别占其税前自由现金流约57%、73%和78% [7] - 巨额资本支出是科技巨头为AI未来下的重注 直接影响财务状况 但为未来增长奠定基础 [1][4] 公司偏好顺序与投资逻辑 - 摩根士丹利在大型科技股中明确未来12个月偏好顺序为亚马逊、Meta和谷歌 认为这三家公司有能力利用AI催化剂巩固市场地位并创造新收入来源 [3] - 亚马逊目标价300美元 评级增持 看涨逻辑基于AWS业务再加速和北美零售业务利润率持续改善 [9] - Meta目标价850美元 评级增持 关注核心平台改进、下一代Llama模型发布和多个未被充分定价看涨期权 [13] - 谷歌目标价210美元 评级增持 关注AI驱动搜索增长、用户商业行为潜在转移和谷歌云增长前景 [15] 亚马逊具体投资价值 - AWS业务2025年和2026年将新增大量数据中心面积 为2026年实现20%以上收入增长提供物理基础 高于目前19%基础预测 [9] - 北美零售业务利润率截至2025年第二季度为-1% 远低于2018年约1%水平 基础模型预计到2028年才能恢复至2018年水平 意味着2026/2027年每股收益预测存在进一步上调可能 [11] Meta增长驱动因素 - 利用GPU驱动核心广告业务改进仍有巨大空间提升用户参与度和变现能力 预计2026年初发布经过充分测试和改进下一代Llama模型 [13] - Meta AI搜索到2028年可能创造约220亿美元年收入机会 用户采用率已迅速追平ChatGPT和谷歌Gemini [13] - 商业消息等新业务是重要长期增长驱动力 [13] 谷歌竞争优势与增长点 - AI Overviews和AI Mode等创新有望推动搜索收入加速增长 预测2025年下半年和2026年搜索收入增速分别为12%和9% [15] - 在产品研究和比价等商业行为上 谷歌依然是消费者首选平台 领先于亚马逊及其他竞争者 [15] - Gemini模型和TPU芯片是推动GCP增长关键 Meta等公司与GCP签订合作关系 有望为2026年云业务增长贡献约300个基点 [15] - 市场尚未充分计价谷歌在定制芯片方面优势 构成潜在上行催化剂 [15]

文章核心观点 - 英伟达推出Rubin CPX专用预填充加速器 解决AI推理中预填充和解码阶段硬件需求矛盾 通过专用硬件设计显著降低成本并提升效率[1][2][3] - 第三代Oberon架构机架采用无电缆设计和全液冷方案 实现更高计算密度和散热能力[8][9][10] - 行业竞争格局可能被重塑 竞争对手面临更大压力 GDDR7需求可能爆发[13][15][16] AI推理硬件需求矛盾 - AI大模型推理存在预填充(prefill)和解码(decode)阶段硬件需求矛盾：预填充阶段需要高计算能力但内存带宽需求低 解码阶段需要高内存带宽但计算需求低[2][3] - 通用GPU方案导致资源浪费：预填充阶段HBM内存带宽利用率仅0.7% 解码阶段计算能力过剩[3][7] - 专用硬件解决方案可提升效率：预填充阶段每小时浪费TCO从R200的0.9美元降至CPX的0.16美元[6][7] Rubin CPX配置特点 - 采用GDDR7替代HBM：内存带宽从R200的20.5TB/s降至2TB/s 但成本降低80%[4][6] - 封装和连接简化：从CoWoS封装改为FC-BGA SerDes速率从224G降至64G(PCIe Gen6)[4][5] - 成本效益显著提升：BOM成本仅为R200的25% 但提供60%计算能力[6] - 内存利用率优化：带宽利用率从0.7%提升至4.2% 容量浪费从286GB降至123GB[7] Oberon机架架构升级 - 无电缆设计：采用Amphenol板对板连接器和PCB中板 消除飞线故障点[9] - 计算密度提升：单个计算托盘容纳4个R200 GPU+8个Rubin CPX+2个Vera CPU 整机架达396个计算和网络芯片[9] - 全液冷散热方案：功率预算达370kW 采用三明治设计共享液冷冷板 支持7040W托盘功率[10] - 灵活扩展能力：支持单独添加VR CPX机架通过InfiniBand/以太网连接 可调整预填充与解码比例[12] 行业竞争影响 - AMD面临压力：MI400机架19.8TB/s带宽被R200的20.5TB/s超越 需重新规划产品路线[13] - 云计算厂商受冲击：谷歌TPU需开发专用预填充芯片 AWS Trainium3机架需额外设计EFA侧机架[13] - 定制ASIC公司处境困难：在硬件专用化趋势下可能被成本压制[13] - GDDR7需求增长：三星因产能充足获得大订单 SK海力士和美光因专注HBM产能受限[15][16] 产业链变化 - PCB价值量提升：每GPU的PCB价值从GB200的400美元升至VR200的900美元[21] - 中层板需求增加：每个NVL144需18个中层板 采用44层PTH PCB[20] - 液冷系统需求扩张：每颗CPX芯片需配冷板 同时拉动转接头、CDU和管路需求[22] 未来发展方向 - 可能推出解码专用芯片：减少计算能力 增加内存带宽 进一步优化能效[14] - 硬件专用化趋势加速：预填充和解码阶段可能分别采用不同专用芯片[14]