技术范式背景 - AI推理已成为衡量大模型商业化价值的关键标尺 但面临"推不动、推得慢、推得贵"的挑战 [1] - 为突破算力瓶颈与"存储墙"制约 "以存代算"作为颠覆性技术范式应运而生 [1] - 该技术通过将AI推理过程中的矢量数据从昂贵DRAM和HBM显存迁移至大容量高性价比SSD介质 [1] 核心技术价值 - CachedAttention技术将首Token时延显著缩短87% [2] - Prefill阶段吞吐量提升7.8倍 [2] - 端到端推理成本降低70% [2] - 实现存储层从内存向SSD的战略扩展而非简单替代 [1] 硬件架构突破 - SSD深度参与AI推理 需承接从HBM、DRAM卸载的KVCache [4] - AISSD技术向QLC颗粒演进 实现高性能与大容量兼顾 [4] - 接口协议以PCIe5.0/6.0搭配NVMe为基础 未来融入CXL技术 [4] - 功能向智能化升级 包括自主处理AI检索任务和液冷散热方案 [4] 企业实践案例 - 华为UCM构建智能分级缓存 数据在HBM、DRAM、SSD中按需流动 [5] - 浪潮存储AS3000G7优化存储架构与缓存管理机制 具备高扩展性 [6] - 焱融YRCloudFileKVCache实现分布式环境下高效存取与智能负载均衡 [8] - 铠侠、美光、Solidigm等国际巨头积极推动AISSD技术迭代与产品创新 [10] 产业发展方向 - QLC+PCIe/NVMe+CXL有望构筑下一代AISSD基座 [10] - SSD从单纯存储介质升级为AI推理"长期记忆"载体 [10] - "以存代算"催生核心机遇 带动SSD需求增速高于传统曲线 [10]