JEDEC固态技术协会正在开发一种方法,通过延长通道距离来增加高带宽内存(HBM)的整体容量,从而使每个GPU能够配备更多的HBM堆栈。
JEDEC是联合电子设备工程委员会。标准封装高带宽内存(SPHBM4)与HBM4设备类似,都采用硅基板,但在不同的基础接口芯片设计中使用了更少的引脚,可以安装在标准有机基板上。
JEDEC董事会主席Mian Quddus表示:"JEDEC成员正在积极制定标准,这些标准将定义用于AI数据中心的下一代模块,推动基础设施和性能创新的未来。"
HBM3拥有1024个引脚。HBM4设备拥有2048个引脚,数字信号通过这些引脚传输,使其性能翻倍。计划中的SPHBM4设备只有512个引脚,是HBM4的四分之一,但工作频率更高,采用4:1串行化技术,因此能够提供与HBM4相同的总吞吐量。这意味着在带宽方面,一个SPHBM4引脚可以完成四个HBM4引脚的工作量。
由于引脚数量更少,它们可以设置得更宽。JEDEC表示,这一变化使得连接到有机基板所需的宽松凸点间距成为可能。
硅基板支持高互连密度,线路间距超过10微米,而有机基板的间距小于20微米。有机基板的成本也更低。
HBM4和SPHBM4设备预计将具有相同的内存容量。安装在有机基板上的设备可以距离HBM4设备更远(具有更长的通道长度)。这可能会增加允许的SPHBM4堆栈数量,从而相比HBM4增加整体内存容量。
采用4:1引脚数量减少的SPHBM4内存堆栈将需要重新设计基础逻辑芯片。
基础逻辑芯片半导体公司Eliyan在LinkedIn上发表评论称:"我们的NuLink D2D/D2M互连解决方案已经证明能够在标准封装中实现4TB/s的带宽,这是最近发布的HBM4标准所需带宽的2倍,因此我们期待利用JEDEC在SPHBM4方面所做的工作,使有机基板成为解决高性能计算内存墙挑战的可行实施选项。"
连接SPHBM4内存堆栈及其基础逻辑芯片与加速器的中介层将从硅设计改为有机基板设计。
Quddus同时也是三星标准与技术推进副总裁。HBM供应商美光、三星和SK海力士都是JEDEC成员,正在开发HBM4E及相关技术。他们需要支持SPHBM4才能使其成为真正的标准。更高的HBM容量和更低的制造成本似乎是好主意,但这些收益是否足以说服三家HBM4供应商?JEDEC的SPHBM4公告最后指出:"JEDEC标准在开发过程中及之后可能会发生变化,包括被JEDEC董事会否决。"
Q&A
Q1:SPHBM4与HBM4有什么区别?
A:SPHBM4是标准封装高带宽内存,与HBM4类似但引脚数量更少。HBM4有2048个引脚,而SPHBM4只有512个引脚(四分之一),但通过更高频率和4:1串行化技术,能够提供与HBM4相同的总吞吐量。SPHBM4可以安装在成本更低的有机基板上,而不是硅基板。
Q2:SPHBM4技术能带来哪些优势?
A:SPHBM4技术主要带来三个优势:首先,由于引脚间距更宽,可以使用成本更低的有机基板;其次,设备之间可以有更长的通道距离,允许每个GPU配备更多的内存堆栈;最后,这些改进能够增加整体内存容量,同时降低制造成本。
Q3:SPHBM4标准能否成为行业标准?
A:目前还不确定。虽然美光、三星和SK海力士这三家主要HBM供应商都是JEDEC成员,但他们需要支持SPHBM4才能使其成为真正的标准。JEDEC也明确表示,该标准在开发过程中及之后可能会发生变化,甚至可能被JEDEC董事会否决。
好文章,需要你的鼓励
据报道,OpenAI正与亚马逊洽谈至少100亿美元的融资。亚马逊此前已是Anthropic的最大投资者,并为其建设了110亿美元的数据中心园区。若融资达成,OpenAI将采用AWS的Trainium系列AI芯片。Trainium3采用三纳米工艺,配备八核心和32MB SRAM内存。AWS可将数千台服务器连接成拥有百万芯片的集群。报道未透露具体估值,但OpenAI最近一次二次出售估值已达5000亿美元。
伊斯法罕大学研究团队通过分析Google Play商店21款AI教育应用的用户评论,发现作业辅导类应用获得超80%正面评价,而语言学习和管理系统类应用表现较差。用户赞赏AI工具的快速响应和个性化指导,但抱怨收费过高、准确性不稳定等问题。研究建议开发者关注自适应个性化,政策制定者建立相关规范,未来发展方向为混合AI-人类模型。
各行业企业存储的数据量持续攀升,5PB以上已成常态,10PB以上也日益普遍。2026年非结构化数据管理的主题是全面增长:更多数据、更多投资、更多痛点以及更多AI安全风险。AI应用加速普及、数字化信息激增以及富媒体和传感器数据大幅增加推动了数据增长。随着AI推理应用的发展,企业将意识到非结构化数据管理对AI投资回报率的关键作用。
这项由伊利诺伊大学香槟分校等四所院校联合完成的研究,提出了名为DaSH的层次化数据选择方法。该方法突破了传统数据选择只关注单个样本的局限,通过建模数据的天然层次结构,实现了更智能高效的数据集选择。在两个公开基准测试中,DaSH相比现有方法提升了高达26.2%的准确率,同时大幅减少了所需的探索步数。