AI人工智能为存储器产业带来了新一轮发展机遇,DRAM领域HBM需求与日俱增,而在NAND Flash领域,SSD关注度持续上升,推动存储大厂频繁布局,相关产品技术快速迭代更新。HBM之后,SSD有望成为AI时代下存储市场发展新动能。
SSD:AI时代担当重任
AI大模型催生海量存储需求,SSD与HDD皆有望从中受益。其中,基于速度、低延迟、耐用性和节能等优势,业界普遍看好SSD在AI时代下的发展。
无论是AI训练还是推理环节,SSD皆有机会担当重任。
全球市场研究机构TrendForce集邦咨询最新调查显示,在AI模型训练过程中,SSD不仅负责储存模型参数,包含不断更新的权重和偏差,而且可以创建检查点(check point),以定期保存AI模型训练进度,即使训练中断也能从特定点恢复。上述功能都相当依赖高速传输以及写入耐用度,因此客户主要选择使用4TB/8TB TLC(三层单元闪存) SSD产品,以满足严苛的训练过程需求。
AI推理环节中,SSD可在推理过程中协助调整、优化AI模型,尤其SSD可以实时更新数据,以便微调推理模型结果。AI推理主要提供检索增强生成(RAG, Retrieval-Augmented Generation)和大型语言模型(LLM, Large Language Model)服务,而SSD可以储存RAG和LLM参考的相关文档和知识库,以生成含有更丰富信息的响应。
随着更多生成信息是以影片或相片显示,其数据存储量也相应增加,因此,TLC/QLC(四层单元闪存) 16TB以上等大容量SSD便成为AI推理主要采用的产品。
TrendForce集邦咨询预估,今年AI相关SSD采购容量将超过45EB,未来几年,AI服务器有望推动SSD需求年增率平均超过60%,而AI SSD需求在整个NAND Flash(闪存)的占比有机会自2024年的5%,上升至2025年的9%。
AI促进SSD创新与发展
AI带来海量存储需求的同时,也对存储产品提出了新要求,高性能、大容量成为“刚需”,促进SSD产品持续迭代升级,创新发展。
SSD一般由硬件组件与固件两大部分组成,硬件组件包括主控芯片、存储芯片(DRAM、NAND Flash)。其中主控芯片承担数据的读取、写入。由于AI应用对数据处理速度、准确性、能效比以及安全性的高要求,相比传统SSD,AI SSD对主控芯片的要求更为严格与复杂。
以高性能为例,AI SSD主控芯片应具备极高的连续读写速度和随机访问性能。当前AI SSD以支持PCIe 5.0为主流,未来将支持更高版本的接口,以及高带宽的NAND闪存通道,以实现高达数十GB/s的读写速度。
存储芯片中,NAND Flash即闪存颗粒,是数据存储的核心介质,也是数据存储的载体。当前SSD使用的闪存颗粒包括TLC(三层单元)、QLC(四层单元)等,业界看好QLC SSD发展,除了因为其具有更高容量和更快的读取速度优势外,还因为它具有更优的TCO总体拥有成本优势:凭借更高的存储密度,优化服务器和物理占用空间,并降低能源消耗等优势,在满足高性能存储需求的基础上,QLC SSD可以帮助大规模数据中心降低TCO总拥有成本。
存储厂商卷技术,多款创新产品亮相
今年以来,为持续满足AI市场需求,多家大厂推出相关QLC SSD、PCIe 5.0/6.0等创新产品,AI SSD市场力量进一步壮大。
三星与西部数据两家公司近期展示了高容量QLC企业级固态硬盘,容量高达128TB级别。
三星BM1743与上一代产品相比,在I/O性能方面提高了4.1倍,数据保留率提高了,连续写入的能效也提高了45%。连续读取速度为7.5GBps、写入速度为3GBps、随机读取IOPS达到160万、16KB随机写入IOPS达到4.5万。西部数据QLC企业级SSD基于BiCS 8 闪存打造,容量依赖于QLC技术,特别适用于处理“快速AI数据湖和容量密集型性能应用”。
美光近日宣布成功开发业界首款用于生态支持的PCIe 6.0数据中心固态硬盘,属于其9550 NVMe SSD系列。颗粒和主控未知,顺序读取速率达26GB/s,与美光9550系列PCIe 5.0数据中心固态硬盘(14GB/s)相比,提升了85.7%。
今年6月,SK海力士宣布开发完成支持PCIe5.0 x8接口的“PCB01”固态硬盘,将于今年内开始量产并向市场推出。该款产品面向AI PC,与上一代产品相比,PCB01的功耗效率提升了30%以上,可大幅提升大规模AI计算的稳定性。同时,SK海力士在该产品上应用了SLC缓存(SLC Caching)技术。该技术使部分NAND闪存存储单元能够以高速的SLC模式运行,其不仅有助于提升AI应用的速度,还能提高普通PC的工作速度。
图片来源:SK海力士
Microchip、慧荣科技等公司则对外展示了PCIe 5.0 SSD主控芯片。
Microchip Flashtec NVMe 5016配备16条独立闪存通道,兼容从SLC到QLC的各种NAND闪存,支持至高3200MT/s闪存接口速率,外置缓存方面则支持到4 Ranks的DDR5-5200。该主控可实现14GB/s的顺序读取速率,随机读取也高达3500K IOPS,同时仅需1W功率即可支持超过2.5GB/s的传输速率,能以更低能耗提供更高带宽。
图片来源:Microchip
慧荣科技SM2508采用台积电6纳米EUV工艺,专为AI PC和游戏主机设计,支持八条NAND通道,每通道速率高达3600MT/s,提供高达14.5 GB/s的顺序读写速度和2.5M IOPS的随机性能。据悉相较于PCIe Gen 4产品,其性能提升达2倍,同时功耗控制在7W以内,预计将于今年第四季度开始量产。