市场对谷歌TPU订单的过度反应 - Meta与谷歌签订数十亿美元TPU订单的消息导致英伟达盘中最大跌幅达7% 市值蒸发超3000亿美元 [1] - 谷歌盘中情绪最热烈时涨幅一度达4% 市值增加约1500亿美元 合人民币超1万亿 [2] - 《华尔街日报》将此视为谷歌向英伟达市场主导地位发起冲击的信号 但从业人士认为华尔街看法外行 [3] TPU在行业内的实际应用历史 - OpenAI技术人员Clive Chan指出谷歌Gemini、Claude、MidJourney、Ilya的SSI等模型均使用过TPU进行训练 [4] - Meta使用TPU并非新鲜事 谢赛宁证实Meta早在2020年已开始使用TPU [6] - 何恺明领导的TF和JAX代码库初步开发及MAE、MoCo v3、ConvNeXt v2和DiT等研究项目完全在TPU上开发 [6] 英伟达与谷歌的技术护城河分析 - 英伟达宣称自家产品是唯一能运行所有AI模型并应用于所有计算场景的平台 [8] - 但OpenAI开发了Triton可绕过CUDA 仅需25行Python代码即能达到cuBLAS性能 [12] - 从技术角度看 谷歌、Meta、OpenAI等巨头自身绕开英伟达并非难事 [13] TPU与英伟达芯片的成本效益比较 - Artificial Analysis用Llama 3.3测试显示从H100到B200 每1美元带来的Token收益是TPU v6e的5倍 [14] - 以30Tokens/秒速度跑Llama 3.3 输入输出各100万Tokens H100成本1.06美元 TPU v6e成本5.13美元 [15] - TPU v7与B200成本相近 TPUv7 FP8运算速度4.6PFLOP/s功耗约1000瓦 GB200 FP8运算速度5PFLOP/s功耗约1200瓦 [18][19] 谷歌出售TPU的战略意图 - 谷歌出售TPU主要目的并非赚钱 而是通过出货量换取排产和价格优惠 对冲芯片代工厂风险 [21][23] - 谷歌利用与Meta、苹果的长期云服务合同作为抵押 预购代工厂尖端芯片产能 可能锁定N2容量25%按成本价供应 [25] - 此策略导致小型芯片公司如Groq、Cerebras、Tenstorrent难以获得先进晶圆产能 形成类似苹果垄断显示屏供应链的效果 [26][27]
华尔街尬捧TPU学术界懵了:何恺明5年前就是TPU编程高手,多新鲜~