TrendForce:2024年AI SSD采购容量预计超过45EB
- +1 你赞过了
【天极网企业频道】8月13日消息,据TrendForce集邦咨询发布的最新报告显示,由于AI需求的激增,导致AI服务器相关客户在过去两个季度大幅增加了企业级固态硬盘(Enterprise SSD)的订单。上游供应商一直在加快工艺升级和2YY产品的规划,计划于2025年投入批量生产,以满足AI应用中对固态硬盘日益增长的需求。
据TrendForce观察,来自AI服务器客户的企业SSD订单增加,导致该类别的合同价格从2023年第四季度到2024年第三季度上涨了80%以上。固态硬盘在AI开发中发挥着至关重要的作用。在AI模型训练中,SSD主要存储模型参数,包括演化权重和偏差。
SSD的另一个关键应用是创建检查点(check point),定期保存AI模型的训练进度,允许在中断的情况下从特定点恢复。由于这些功能高度依赖于快速数据传输和优越的写入耐久性,客户通常选择4TB/8TB TLC SSD来满足训练过程的严苛要求。
TrendForce指出,AI推理服务器中使用的SSD有助于在推理过程中调整和优化AI模型。值得注意的是,SSD可以实时更新数据以微调推理模型结果。AI推理主要提供检索增强生成(RAG)和大模型服务。SSD存储RAG和大模型用来生成更多信息响应的参考文档和知识库。此外,随着越来越多的生成信息以视频或图像的形式显示,所需的存储容量也在增加,因此TLC/QLC等高容量SSD (16TB或更大)成为AI推理应用的首选。
2024年AI服务器SSD需求市场从第二季度开始,对16TB以上产品的需求大幅增加。随着NVIDIA H100、H20和H200系列产品的到来,客户对4TB/8TB TLC(三层单元闪存) SSD产品的订单开始进一步增加。TrendForce预计,今年与AI相关的SSD采购容量将超过45EB。未来几年,AI服务器预计将推动SSD需求的年均增长率超过60%,AI SSD需求可能从2024年占NAND闪存总消费量的5%上升到2025年的9%。
AI推理服务器将继续采用大容量SSD产品。供应商已经开始加速工艺升级,并计划从2025年第一季度开始量产2YY/ 3xx层产品,并推出120TB的Enterprise SSD产品。
最新资讯
热门视频
新品评测