数据离计算更近了——Supermicro的X10DRU-i+双槽服务器日前上架,其应用程序可用内存达1TB或2TB,可用于的分析、数据库以及缓存应用程序,还配备了Diablo的Memory1 flash DIMM模块,唯DRAM服务器内存增加了3倍。
以上的闪存可作为准DRAM使用,DMX软件预先抓取数据后再将其设为DRAM缓存风格。这些闪存实际上扩大了记忆容量,因而令服务器能应付大数据应用程序。
Diablo表示,这些服务器可以在一个机架内提供高达40TB的系统内存,无需更改硬件和应用程序。
Memory1是一款DDR4 DIMM模块,配有128GB闪存和Diablo内存扩展软件(DMX)。DRAMDIMM与Memory1模块一起装在系统里,典型的闪存-DRAM比为8:1。
X10DRU-i+双槽服务器名为巨型孪生服务器,配有24个DIMM插口和双XeonE5-2600 v4处理器。可以说,闪存处于板载DRAM的后备存储库里。
SupermicroX10DRU-i+双槽服务器
DMX软件用于提供内存虚拟化、动态数据分层和数据预测、闪存持久性的增强以及性能微调。记者了解到,至2017年,Memory1容量可能会增至256GB,即是说服务器内存将达4TB。
Supermicro公司还在开发旗下的热交换NVMe闪存驱动器服务器产品组合。Stifel常务董事Aaron Rakers撰文表示,Supermicro认为热交换、双端口NVMe闪存可比SASSSD产品快6倍,截至9月底为止,Supermicro已经推出了超过70款NVMe产品。他表示,Supermicro正在研发新一代M.2 NVMe产品,这些产品可以支持高达12TB的闪存容量。
上述X10DRU-i+服务器目前配有10个SAS前端开槽,大有可能将过渡到10个NVMe前端开槽。而且,10个2.5英寸驱动槽空间也可能被更动,以支持20个新型NVMe闪存驱动。
Racker指:
Brocade前一阵曾表示过,Brocade认为NVMe-over-Fabrics在未来几年里对于存储行业而言可能会和前几年的闪存存储一样,是一项颠覆性的技术。再者,Mellanox最近表示,NVMe-over-Fabrics技术令客户可以构建高性能、基于块的存储,这是15年以来出现的第一个新的主体基于块存储的协议,Mellanox认为NVMe-over-Fabrics有可能取代光纤通道。
简言之,内存大幅增加,用的是较慢的、但比DRAM类内存更便宜的的内存,SAS 2.5英寸SSD将逐渐让位于NVMe型闪存驱动,这些驱动用的是M.2卡外形规格,光纤通道/iSCSI连SAN将让位给更快的、基于RDMA的NVMe Fabrics连共享存储技术。从物理距离和访问延迟的意义上来说,数据将更接近计算。
好文章,需要你的鼓励
苏州大学研究团队提出"语境降噪训练"新方法,通过"综合梯度分数"识别长文本中的关键信息,在训练时强化重要内容、抑制干扰噪音。该技术让80亿参数的开源模型在长文本任务上达到GPT-4o水平,训练效率比传统方法高出40多倍。研究解决了AI处理长文档时容易被无关信息干扰的核心问题,为文档分析、法律研究等应用提供重要突破。
在Cloudera的“价值观”中,企业智能化的根基可以被概括为两个字:“源”与“治”——让数据有源,智能可治。
清华大学团队首次揭示了困扰AI训练领域超过两年的"幽灵故障"根本原因:Flash Attention在BF16精度下训练时会因数字舍入偏差与低秩矩阵结构的交互作用导致训练崩溃。研究团队通过深入分析发现问题源于注意力权重为1时的系统性舍入误差累积,并提出了动态最大值调整的解决方案,成功稳定了训练过程。这项研究不仅解决了实际工程问题,更为分析类似数值稳定性挑战提供了重要方法论。