美国能源部阿贡实验室最强GPU赋能的超级计算机将推动E 级AI时代科学突破
加利福尼亚州圣克拉拉市 – 太平洋时间2021年8月25日 – NVIDIA今日宣布,美国能源部阿贡国家实验室(Argonne National Laboratory)最强大的基于GPU的超级计算机将在NVIDIA加速计算平台上运行。
位于该实验室 ALCF (Argonne Leadership Computing Facility)的Polaris超级计算机将为用户的算法和科学领域的超级规模的研究和探索提供支持。在2240个NVIDIA® A100 Tensor Core GPU的加速下,该系统能够实现近每秒1.4百亿亿次浮点(exaflops)的理论AI性能和约每秒44千万亿次浮点(petaflops)的峰值双精度性能。
由慧与建造的Polaris搭载560个总节点并且每个节点配备4个NVIDIA A100 GPU。这台超级计算机通过处理数据密集型和AI高性能计算工作负载,将模拟和机器学习相结合。
NVIDIA副总裁兼加速计算总经理Ian Buck表示:“E级AI时代将实现巨大的科学突破,为社会带来巨大的利益。NVIDIA的GPU加速计算平台为像ALCF一样的先锋们的新一代超级计算机(如Polaris)提供了前所未有的性能,帮助研究人员实现科学探索的突破。”
ALCF总监Michael E. Papka表示:“Polaris是一个帮助我们的用户进入E级AI时代的强大平台 。数量庞大的NVIDIA A100 GPU将对我们的数据密集型和AI高性能计算工作负载产生直接影响,使Polaris能够在全球范围内解决复杂的科学问题。”
该系统将加速革命性的科学探索,例如推进癌症治疗、探索清洁能源、推动粒子碰撞研究以发现新的物理学方法等。它将把ALCF带入E级AI时代,使研究人员能够针对阿贡实验室即将启动的E级系统——Aurora更新他们的科学工作负载。
通过ALCF的评审分配和应用计划,Polaris也将对学术界、政府机构和行业的研究人员开放使用。这些计划使科学界能够使用这台全国最快超级计算机来应对科学和工程领域的重大挑战。
好文章,需要你的鼓励
这项研究介绍了VisCoder,一个经过专门微调的大语言模型,用于生成可执行的Python可视化代码。研究团队创建了包含20万样本的VisCode-200K数据集,结合了可执行代码示例和多轮修正对话。在PandasPlotBench基准测试中,VisCoder显著优于同等规模的开源模型,甚至在某些方面超越了GPT-4o-mini。研究还引入了自我调试评估模式,证明了反馈驱动学习对提高代码可执行性和视觉准确性的重要性。
这项研究提出了"适应再连续学习"(ACL)框架,一种创新的方法解决预训练模型在连续学习中的稳定性-可塑性困境。通过在学习新任务前先对模型进行适应性调整,ACL使模型既能更好地学习新知识(提高可塑性),又能保留已有知识(维持稳定性)。实验证明,该框架能显著提升各种连续学习方法的性能,为解决人工智能系统中的"灾难性遗忘"问题提供了有效途径。
这篇研究首次关注了CLIP模型文本编码器的对抗鲁棒性问题,提出了LEAF方法(Levenshtein高效对抗性微调)来增强文本编码器的稳健性。实验表明,LEAF显著提高了模型在面对文本扰动时的性能,在AG-News数据集上将对抗准确率从44.5%提升至63.3%。当集成到Stable Diffusion等文本到图像生成模型中时,LEAF显著提高了对抗噪声下的生成质量;在多模态检索任务中,它平均提高了10个百分点的召回率。此外,LEAF还增强了模型的可解释性,使文本嵌入的反演更加准确。
BenchHub是由韩国KAIST和Yonsei大学研究团队开发的统一评估平台,整合了38个基准中的30万个问题,按技能、学科和目标类型进行精细分类。研究显示现有评估基准存在领域分布偏差,而BenchHub通过自动分类系统和用户友好界面,让用户能根据特定需求筛选评估数据。实验证明模型在不同领域的排名差异巨大,强调了定制化评估的重要性。该平台支持多语言扩展和领域特化,为研究人员和开发者提供了灵活评估大语言模型的强大工具。