美国劳伦斯·利弗莫尔国家实验室(Lawrence Livermore National Laboratory)已经部署了一个代号“Mammoth”的大内存高性能计算集群,该集群使用AMD的芯片帮助科学家们进行COVID-19方面的研究。

Mammoth系统由64台服务器组成,每台服务器均配备了2个AMD Epyc CPU。
该系统总共有8192个处理器核心,据说在处理双精度浮点值时的峰值性能为294 teraflops。双精度浮点值是一种数据单位,每个单位占用64个位,在科学计算中很受欢迎,因为可以容纳非常大的分数。
Mammoth与大多数高性能计算群集的不同之处在于,它的亮点是内存而不是原始计算能力。这64台服务器中,每台服务器都是基于2个Epyc CPU的,有2 TB高速DRAM内存,以及近4 TB的非易失性内存。
这种不同寻常的系统设计与计算效率有关。劳伦斯·利弗莫尔国家实验室的科学家正在运行病毒模拟和其他需要处理大量数据集的复杂工作负载,用于进行COVID-19方面的研究。
这些数据集在某些情况下过于庞大使得标准服务器内存无法容纳,因此必须在多台计算机之间进行拆分,这会导致效率低下,从而降低了处理速度。Mammoth系统的内存优化服务器打破了这个限制。
劳伦斯·利弗莫尔国家实验室的计算机科学家Thomas Desautels解释说:“在我们的工作流程中,我们使用Rosetta Flex来计算结合自由能(一种蛋白质特性),Rosetta Flex代码在其他系统上运行的时候会受到内存的限制,每个计算最多可以同时运行12或者16次计算。Mammoth让我们能够在单个节点上同时运行128个Rosetta Flex计算,从而将吞吐量提高约8倍。”
据称Mammoth可以将某些基因组分析的时间从几天缩短到几个小时。此外,劳伦斯·利弗莫尔国家实验室的科学家们花费在将数据集分成较小的块以克服服务器内存限制上的时间,也进一步缩短了。
该项目也让AMD Epyc CPU在能够支持内存密集型计算能力的背景下,得到了更有力的验证。能够将大量数据一次性地存储在内存中,这一能力不仅对科学工作负载很重要,对于企业分析应用和数据库这一庞大的市场来说也很重要。
同时,Mammoth系统也是AMD最近一系列高性能计算最新成果之一。此前,AMD与HPE旗下Cray受美国能源部委托合作构建了占地面积达两个篮球场大小的1.5exaflop超级计算机。
好文章,需要你的鼓励
CPU架构讨论常聚焦于不同指令集的竞争,但实际上在单一系统中使用多种CPU架构已成常态。x86、Arm和RISC-V各有优劣,AI技术的兴起更推动了对性能功耗比的极致需求。当前x86仍主导PC和服务器市场,Arm凭借庞大生态系统在移动和嵌入式领域领先,RISC-V作为开源架构展现巨大潜力。未来芯片设计将更多采用异构计算,多种架构协同工作成为趋势。
KAIST AI团队通过深入分析视频生成AI的内部机制,发现了负责交互理解的关键层,并开发出MATRIX框架来专门优化这些层。该技术通过语义定位对齐和语义传播对齐两个组件,显著提升了AI对"谁对谁做了什么"的理解能力,在交互准确性上提升约30%,为AI视频生成的实用化应用奠定了重要基础。
Vast Data与云计算公司CoreWeave签署了价值11.7亿美元的多年期软件许可协议,这标志着AI基础设施存储市场的重要转折点。该协议涵盖Vast Data的通用存储层及高级数据平台服务,将帮助CoreWeave提供更全面的AI服务。业内专家认为,随着AI集群规模不断扩大,存储系统在AI基础设施中的占比可能从目前的1.9%提升至3-5%,未来五年全球AI存储市场规模将达到900亿至2000亿美元。
乔治亚理工学院和微软研究团队提出了NorMuon优化器,通过结合Muon的正交化技术与神经元级自适应学习率,在1.1B参数模型上实现了21.74%的训练效率提升。该方法同时保持了Muon的内存优势,相比Adam节省约50%内存使用量,并开发了高效的FSDP2分布式实现,为大规模AI模型训练提供了实用的优化方案。