NVIDIA HDR InfiniBand加速复杂的宇宙仿真,助力英国宇宙学研究
加利福尼亚州圣克拉拉市 – 2021年4月14日 – NVIDIA宣布NVIDIA® HDR InfiniBand网络将为杜伦大学(Durham University)的新一代超级计算机 - COSMA-8提供加速, 助力于英国全球顶级宇宙学家探索宇宙起源。
由杜伦大学计算宇宙学研究所(Computational Cosmology of Durham University)代表DiRAC 高性能计算机构托管的COSMA 8超级计算机,将成为DiRAC 面向大内存业务应用的核心,使科学家能够利用大规模仿真,进一步深入探索天文学和微观粒子物理学。InfiniBand是全球唯一的完全卸载通信并支持网络计算的互连技术。InfiniBand及COSMA 8顶尖的性能将推动对宇宙中的暗物质、暗能量、黑洞以及星系和其它结构的形成等方面的科学探索。
DiRAC通过在英国的四个不同的中心提供分布式算力,旨在满足科学界各种高性能计算的需求。它提供多样化的计算资源,使机器架构能够满足不同的算法设计和科研攻关中的各种需求。
基于戴尔(Dell)EMC PowerEdge C6525服务器和AMD EPYC处理器的COSMA 8超级计算机,将采用内置网络计算引擎的HDR 200Gb/s InfiniBand网络进行加速,因其提供了优异的性能和可扩展性,并极大地提升了内存密集型科学应用的性能。COSMA 8采用了无阻塞胖树拓扑,确保了系统中任意节点间的出色性能。
“COSMA 8旨在为从大爆炸到当今的整个宇宙建模”,杜伦大学DiRAC内存密集型服务技术经理Alastair Basden表示,“这将使人类能够通过前所未有的大规模仿真,持续探索并理解宇宙起源,以及人类在宇宙中的位置。InfiniBand是唯一能够提供如此大规模的仿真所需要的带宽的网络,使这项研究终于成为可能。这就是DiRAC和杜伦大学致力于通过与NVIDIA的持续合作来不断推进超级计算领域发展的一个例子。”
在DiRAC的COSMA 8中使用InfiniBand仅是NVIDIA与杜伦大学的合作项目之一,另外一项值得一提项目是探索并利用NVIDIA BlueField® DPU的优势和先进功能,将其用于多种应用和用例。
NVIDIA网络事业部高级副总裁Gilad Shainer表示:“ NVIDIA致力于为全球各种数据密集型的应用提供加速,我们与杜伦大学和DiRAC的持续合作不断推动着前沿超级计算领域的突破, 我们在联合开发新一代超级计算架构方面的,将进一步提升科研能力,并将为未来的系统奠定坚实的基础。”
2020年11月,NVIDIA发布了新一代NDR 400G InfiniBand 产品,它将为科研人员提供更快的网络性能,助力其应对全球最具挑战性的难题。
好文章,需要你的鼓励
这项研究介绍了VisCoder,一个经过专门微调的大语言模型,用于生成可执行的Python可视化代码。研究团队创建了包含20万样本的VisCode-200K数据集,结合了可执行代码示例和多轮修正对话。在PandasPlotBench基准测试中,VisCoder显著优于同等规模的开源模型,甚至在某些方面超越了GPT-4o-mini。研究还引入了自我调试评估模式,证明了反馈驱动学习对提高代码可执行性和视觉准确性的重要性。
这项研究提出了"适应再连续学习"(ACL)框架,一种创新的方法解决预训练模型在连续学习中的稳定性-可塑性困境。通过在学习新任务前先对模型进行适应性调整,ACL使模型既能更好地学习新知识(提高可塑性),又能保留已有知识(维持稳定性)。实验证明,该框架能显著提升各种连续学习方法的性能,为解决人工智能系统中的"灾难性遗忘"问题提供了有效途径。
这篇研究首次关注了CLIP模型文本编码器的对抗鲁棒性问题,提出了LEAF方法(Levenshtein高效对抗性微调)来增强文本编码器的稳健性。实验表明,LEAF显著提高了模型在面对文本扰动时的性能,在AG-News数据集上将对抗准确率从44.5%提升至63.3%。当集成到Stable Diffusion等文本到图像生成模型中时,LEAF显著提高了对抗噪声下的生成质量;在多模态检索任务中,它平均提高了10个百分点的召回率。此外,LEAF还增强了模型的可解释性,使文本嵌入的反演更加准确。
BenchHub是由韩国KAIST和Yonsei大学研究团队开发的统一评估平台,整合了38个基准中的30万个问题,按技能、学科和目标类型进行精细分类。研究显示现有评估基准存在领域分布偏差,而BenchHub通过自动分类系统和用户友好界面,让用户能根据特定需求筛选评估数据。实验证明模型在不同领域的排名差异巨大,强调了定制化评估的重要性。该平台支持多语言扩展和领域特化,为研究人员和开发者提供了灵活评估大语言模型的强大工具。