MLPerf是国际权威的AI性能基准评测,每年各有两次AI推理和AI训练测试,以对迅速增长的AI计算需求与性能进行及时的跟踪测评。
在最新的MLPerf训练2.0版本中,NVIDIA与16家合作伙伴提交了本轮结果,占了所有参赛生态伙伴的90%,并且继续提供了最佳的整体AI训练性能和提交了最多的测试项。
出色成绩来自持续创新
在连续第四次MLPerf训练提交结果中,基于NVIDIA Ampere架构的NVIDIA A100 Tensor Core GPU依然表现出色。NVIDIA A100还保持了单芯片性能上的领导地位,在八项测试中的六项测试中呈现了最快的速度。
同时,Selene在八项大规模工作负载测试的四项中获得“最快训练时间”。Selene是NVIDIA内部的一台AI超级计算机,它基于模块化的NVIDIA DGX SuperPOD,并由NVIDIA A100 GPU、软件堆栈和NVIDIA InfiniBand网络驱动。
从首次基于A100提交MLPerf基准测试以来的两年时间里,NVIDIA AI平台继续在MLPerf 2.0中提供最高的性能,仍是唯一能够提交所有基准测试的平台。
得益于跨GPU、软件和大规模改进的全栈式创新,NVIDIA AI平台在3年半时间里,在基准测试中实现了23倍的性能提升。
比如在提交结果中大量使用的CUDA Graphs,该软件可以最大限度地减少跨多个加速器上运行作业的启动开销。NVIDIA Magnum IO和SHARP将部分AI功能卸载到网络中,以获得更好的性能。
据了解,NVIDIA所使用的所有软件均可从MLPerf资源库中获取。NVIDIA还不断地将这些优化集成到NVIDIA的GPU应用软件中心——NGC上提供的容器中,并通过NVIDIA AI Enterprise提供完全由NVIDIA支持,并经过优化的软件。
通吃各种AI模型让AI快速落地
MLPerf训练基准测试代表了流行的AI用例,包括语音识别、自然语言处理、推荐系统、目标检测、图像分类等。
NVIDIA AI仍是唯一能够运行MLPerf行业基准测试中所有测试的平台,A100 GPU自发布以来连续两年一直保持着获胜次数最多的纪录。
NVIDIA AI平台覆盖了其中的所有八项基准测试,突显了其领先的通用性,保护用户已有的AI平台投资。
对于用户而言,人工智能应用需要多种类型的AI模型按顺序工作,用户需要能够快速且灵活地设计、训练、部署和优化这些模型。NVIDIA AI平台的通用性让其在各种AI模型中表现出色,可以帮助用户构建相关应用。
通常AI研究人员需要快速测试新的想法,这需要通用性来训练任何模型,以及大规模训练模型所能提供的速度。
凭借NVIDIA AI,客户可以在整个AI流程中使用相同的基础设施,重新利用它来适配数据准备、训练和推理之间的不同需求,这极大地提高了利用率,实现了非常高的投资回报率。
NVIDIA AI兼容并适用于每个模型、可以扩展到任何规模,并加速从数据准备到训练再到推理的端到端AI流程,能够实现最高的单位成本生产力。
今天的结果再次证明了NVIDIA在迄今为止所有MLPerf训练、推理和HPC评测中所展示的丰富而深厚的AI专业性。
结语
MLPerf行业基准测试是企业进行AI采购的重要参考,而NVIDIA AI平台的上佳表现将会增强已有用户的信心,并吸引更多用户部署。
我们看到这次参与测试还是基于 NVIDIA Ampere架构的A100,要知道NVIDIA于3月发布了NVIDIA Hopper架构,这样在未来的MLPerf基准测评中NVIDIA的表现将会很值得期待。
好文章,需要你的鼓励
北京大学研究团队开发出基于RRAM芯片的高精度模拟矩阵计算系统,通过将低精度模拟运算与迭代优化结合,突破了模拟计算的精度瓶颈。该系统在大规模MIMO通信测试中仅需2-3次迭代就达到数字处理器性能,吞吐量和能效分别提升10倍和3-5倍,为后摩尔时代计算架构提供了新方向。
普拉大学研究团队开发的BPMN助手系统利用大语言模型技术,通过创新的JSON中间表示方法,实现了自然语言到标准BPMN流程图的自动转换。该系统不仅在生成速度上比传统XML方法快一倍,在流程编辑成功率上也有显著提升,为降低业务流程建模的技术门槛提供了有效解决方案。
谷歌宣布已将约3万个生产软件包移植到Arm架构,计划全面转换以便在自研Axion芯片和x86处理器上运行工作负载。YouTube、Gmail和BigQuery等服务已在x86和Axion Arm CPU上运行。谷歌开发了名为CogniPort的AI工具协助迁移,成功率约30%。公司声称Axion服务器相比x86实例具有65%的性价比优势和60%的能效提升。
北京大学联合团队发布开源统一视频模型UniVid,首次实现AI同时理解和生成视频。该模型采用创新的温度模态对齐技术和金字塔反思机制,在权威测试中超越现有最佳系统,视频生成质量提升2.2%,问答准确率分别提升1.0%和3.3%。这项突破为视频AI应用开辟新前景。