核心观点 - AWS宣布其新一代AI芯片Trainium3及搭载该芯片的Trn3 UltraServers全面上市 旨在帮助各种规模的组织以更低的成本更快地训练和部署AI模型 [1] 产品性能与规格 - Trainium3 UltraServers相比前代Trainium2 UltraServers 计算性能提升高达4.4倍 能效提升4倍 内存带宽提升近4倍 [6] - Trn3 UltraServers可扩展至144个Trainium3芯片 提供高达362 FP8 PFLOPs的算力 并将训练大型模型的延迟降低4倍 [6] 客户应用与效益 - 包括Anthropic, Karakuri, Metagenomi, NetoAI, Ricoh, Splash Music在内的客户使用Trainium可将训练和推理成本降低高达50% [6] - 客户Decart实现了实时生成视频推理速度提升4倍 同时成本仅为GPU的一半 [6] - Amazon Bedrock的生产负载已在Trainium3上运行 [6] 公司背景与战略 - AWS通过近二十年的技术民主化 使各种规模和行业的组织都能使用云计算和生成式AI 建立了历史上增长最快的企业技术业务之一 [4] - AWS拥有最全面的AI能力和全球基础设施 赋能构建者将宏大想法变为现实 [4]