近日，英伟达(NVIDIA)执行长黄仁勋在2024年中国台北国际电脑展上对三星HBM因过热问题而未能通过测试的报道进行了反驳。 他表示，英伟达正在努力测试三星和美光生产的HBM芯片，但目前尚未通过测试，因为还有更多的工程工作要做。其中特别针对三星HBM产品的质量问题，黄仁勋表示，认证三星HBM需要更多工作和充足耐心，而并非部分媒体所报道的因芯片过热问题未通过质量测试。他重申，英伟达与三星的合作进展顺利。 此前，三星也坚决否认有关其高带宽存储（HBM）产品未能达到英伟达质量标准的报道。三星电子在一份声明中表示，正在与全球各合作伙伴密切合作，不断测试技术和性能以确保其产品的质量和可靠性。 3月下旬，黄仁勋在美国加州圣何塞会议中心举行的年度开发者大会上参观了三星电子展台，他在HBM3E展台标牌上写下了“Jensen Approved”（黄仁勋认证），引发了市场期待。再加上此次黄仁勋为此澄清，业界猜测，三星的HBM预计将通过验证，供应给NVIDIA。 HBM需求量极大，受限良率问题缺口较大 由于人工智能尤其是生成式AI的广泛采用，行业未来几年对高带宽内存的需求十分巨大。 据TrendForce集邦咨询研究显示，目前高端AI服务器GPU搭载HBM已成主流。预估2023年全球HBM需求量将年增近六成，达到2.9亿GB，2024年将再成长三成。到2025年，全球若以等同ChatGPT的超大型AIGC产品5款、Midjourney的中型AIGC产品有25款，以及80款小型AIGC产品估算，上述所需的运算资源至少为145,600~233,700颗NVIDIA A100 GPU，再加上新兴应用如超级计算机、8K影音串流、AR/VR等，也将同步提高云端运算系统的负载，高速运算需求高涨。 而从产能方面，TrendForce集邦咨询预计，2023~2024年HBM占DRAM总产能分别是2%及5%，至2025年占比预估将超过10%。产值方面，2024年起HBM之于DRAM总产值预估可逾20%，至2025年占比有机会逾三成。 其中英伟达一家的需求就十分惊人。据TrendForce集邦咨询研究，NVIDIA Hopper平台H100于今年第一季短缺情形逐渐纾解，属同平台的新品H200于第二季后逐渐放量，第三季新平台Blackwell将进入市场，第四季扩展到数据中心客户。但今年应仍以Hopper平台为主，包含H100、H200等产品线；根据供应链导入Blackwell平台进度，预计今年第四季才会开始放量，占整体高阶GPU比例将低于10%。HBM方面，随着NVIDIA GPU平台推进，H100主搭载80GB的HBM3，至2025年的B200将达搭载288GB的HBM3e，单颗搭载容量将近3～4倍成长。而据三大原厂目前扩展规划，2025年HBM生产量预期也将翻倍。 目前，从行业价格来看，HBM的价格是现有DRAM产品的5-6倍，DDR5的价格也比DDR4高出15%到20%。虽然价格上较高，但是仍然供应不上。据TrendForce分析师表示，普遍猜测良率约只50～60%，差不多是做两个坏一个的状态，因为它不只要堆叠起来，还需要加压，让整体高度能与其他芯片对接，「但加压需要上下同时，并且保持平衡，失衡就会坏片。」 TrendForce集邦咨询表示，尽管三大原厂的新厂将于2025年完工，但部分厂房后续的量产时程尚未有明确规划，需依赖2024年的获利，才得以持续扩大采购机台，此也进一步推动三大原厂坚守存储器价格今年涨势。除此之外，由于NVIDIA GB200将于2025年放量，其规格为HBM3e 192/384GB，预期HBM产出将接近翻倍，且紧接各原厂将迎来HBM4研发，若投资没有明显扩大，因各家产能规划皆以HBM为优先，在产能排挤的效应之下，DRAM产品恐有供应不及的可能性。 公开资料显示，三星、美光、SK海力士目前HBM竞赛规划如下： SK海力士方面，除了M16厂明年产能预计扩大，M15X厂同样亦规划于2025年完工，并于明年底量产。已与台积电签署谅解备忘录（MOU）合作开发HBM4，并在下一代先进封装技术方面进行合作，采用台积电的逻辑工艺制程生产HBM4的基础芯片，计划于2026年量产，并计划未来提供定制化的HBM产品。 三星方面，现有厂房2024年底产能大致满载，新厂房P4L规划于2025年完工，同时Line15厂区将进行制程转换，由1Ynm转换至1beta nm以上。今年下半年快速过渡到HBM3e，8-H HBM3e已开始提前量产，并加快量产12-H HBM3e，预计到年底HBM3e将占据人力资本管理（HCM）总销量的三分之二以上。 美光方面，行业消息显示，今年年底美光HBM产能为2万片12英寸晶圆，其设定的目标是最早在明年下半年开发第6代HBM（HBM4），并预计在2028年开发第7代HBM4E。