三星、SK海力士和美光正在加紧准备向英伟达和其他AI加速器供应商提供第四代高带宽内存(HBM4),以提升AI训练和推理速度。
高带宽内存是一种分层DRAM,直接放置在GPU旁边的桥接中介层芯片上,比与x86 CPU配套使用的插槽连接DRAM提供更大的内存容量和更高的内存带宽。HBM分为不同代次,专为特定GPU设计,每一代通常比前代提供更高的带宽和更大的容量。目前我们正处于HBM3E(扩展版)代次,专为英伟达Blackwell GPU设计,支持最多12层DRAM堆叠,提供36GB容量,每引脚9.2-9.8 Gbps数据传输速度,总带宽达1.2-1.28 TB/s。
HBM4专为英伟达Rubin GPU设计,可搭载高达288GB的HBM4内存。AMD的MI455可搭载更多内存,达432GB。JEDEC的HBM4标准支持4层、8层、12层和16层堆叠,芯片容量分别为24 Gb(3GB)或36 Gb(4GB)。每个堆叠的容量范围从12GB到64GB。HBM4基准每引脚数据传输速率为8 GB/s,支持扩展到更高水平。
英伟达去年首次发布Rubin时希望HBM4整体带宽达到13 TB/s,但现在的目标是从12层HBM4堆叠中实现22 TB/s。
这促使美光、三星和SK海力士等HBM4开发厂商测试其数据传输速率,三星不得不优化设计以在更高速度下实现良好的产量。路透社和《韩国日报》报道称,三星达到了新的速度要求,将于2月开始向英伟达出货HBM4芯片,同时也将向AMD供应HBM4芯片。
彭博社的报道有所不同,称三星接近获得英伟达认证,但尚未签署出货协议。
HBM市场领导者SK海力士已向英伟达交付HBM4样品,但尚未透露何时开始向GPU制造商出货HBM4芯片。该公司将于1月29日公布第四季度财报,三星也是如此,届时我们可能会听到更多消息。
第三家HBM4制造商美光也已向英伟达交付16层样品,并表示其2026年HBM4全部产能已售罄。
HBM5和HBM6代次可能分别采用20层和24层堆叠。
Q&A
Q1:HBM4相比HBM3E有什么提升?
A:HBM4专为英伟达Rubin GPU设计,支持最多16层堆叠,单堆叠容量可达64GB,基准每引脚数据传输速率为8 GB/s。英伟达目标从12层HBM4堆叠中实现22 TB/s带宽,远超HBM3E的1.2-1.28 TB/s。
Q2:哪些厂商在生产HBM4芯片?
A:目前三大厂商正在开发HBM4:三星、SK海力士和美光。三星据报将于2月开始向英伟达出货,SK海力士已交付样品但未透露出货时间,美光也已交付16层样品且2026年产能已售罄。
Q3:HBM4主要应用在哪些产品上?
A:HBM4主要用于AI加速器,包括英伟达Rubin GPU(可搭载288GB HBM4)和AMD MI455(可搭载432GB HBM4),用于提升AI训练和推理速度,比传统插槽连接DRAM提供更大容量和更高带宽。
好文章,需要你的鼓励
美国连锁超市巨头Albertsons正在基于Databricks构建商品智能平台,整合产品、定价、促销与陈列等决策功能,目标是在2026年底前全面向门店运营商落地。该平台以Databricks Lakehouse存储零售数据,通过Unity Catalog与AI Gateway实现数据治理,并借助AI智能体Genie支持自然语言查询,帮助商家洞察销售趋势,提升决策效率。此举是Albertsons今年四项AI核心战略投资之一。
阿里Qwen团队通过引入强化学习和在线策略蒸馏,将Qwen-Image-2.0升级为Qwen-Image-2.0-RL,让图像生成模型真正学会人类审美,文生图Elo评分提升78分,图像编辑提升93分。
微软正将Windows 11打造成真正的AI操作系统。在Build大会上,微软展示了AI模型与智能代理如何深度融合进Windows 11,让用户通过自然语言完成系统操作。借助Windows ML框架,超过5亿台PC已可在本地离线运行AI任务,无需联网、无token费用、数据不离设备。Office、Photos、Teams等应用已支持本地AI能力,Adobe、WhatsApp、Canva等第三方也在积极跟进,企业级AI PC采购需求有望加速。
港科大与快手联合提出NormGuard,针对流匹配模型强化学习训练中速度范数膨胀问题,通过训练时单向惩罚约束,在保留奖励的同时改善图像真实感。